Исследователь безопасности Mac Для просмотра ссылки Войди или Зарегистрируйся что тривиально превратить Muse в «окончательный бэкдор».
Все чаще помощники ИИ переходят от инструментов, которые просто отвечают на вопросы, на агентов, которые могут планировать задачи, использовать подключенные сервисы и предпринимать действия для нас. Эти действия могут включать в себя бронирование встреч, заполнение форм, создание документов, совершение покупок или взаимодействие с электронной почтой и календарями.
Для этого им нужно больше разрешений, подключений к учетной записи и конфиденциальных данных. Поэтому, когда Meta пообещала, что «Muse строится с нуля для конфиденциальности и безопасности», мы не ожидали, что агентом ИИ будет легко манипулировать, чтобы передать весь этот доступ злоумышленнику.
Meta говорит, что Muse может обрабатывать встречи, формы, взаимодействия с клиентами, покупки, создание документов и связи с такими службами, как WhatsApp, электронная почта, календари и социальные платформы. Он также может получать разрешения macOS для доступа к защищенным ресурсам, включая файлы, микрофон, камеру, местоположение и календари.
Для просмотра ссылки Войдиили Зарегистрируйся Уордл обнаружил, что локально запущенное приложение или команда терминала может изменить настройку конфигурации Muse без документов, которая контролирует сервер, используемый для транскрипции диктанта. Перенаправляя трафик диктанта на сервер, контролируемый злоумышленником, злоумышленник может захватывать голосовые подсказки и получать токен аутентификации для учетной записи Muse жертвы.
Это не уязвимость дистанционного кода-исполнения, которая может скомпрометировать в противном случае чистый Mac. Злоумышленнику сначала нужен способ запуска кода локально, например, через вредоносное ПО, вредоносное приложение или социальную инженерию.
Но, как мы видели, когда Для просмотра ссылки Войдиили Зарегистрируйся этот первоначальный доступ далеко не невозможен.
Традиционные вредоносные программы infostealer должны независимо определять данные браузера, учетные данные, документы, истории чатов и другие ценные материалы. Скомпленный агент ИИ может снизить этот барьер, связав доступ к нескольким услугам и разрешениям операционной системы за одним уже аутентифицированным интерфейсом.
В конечном счете, речь идет не только об одной небезопасной настройке конфигурации. Это показывает, почему агенты ИИ нуждаются в более высоком стандарте безопасности, чем обычные приложения.
Такая же осторожность должна применяться и к другим агентам ИИ.
Open Worldwide Application Security Project (OWASP), некоммерческий фонд, который предоставляет бесплатные рекомендации по безопасности приложений, Для просмотра ссылки Войдиили Зарегистрируйся быстрые инъекции, злоупотребления инструментами, эскалацию привилегий, эксфильтрацию данных, чрезмерную автономию, отравление памяти и воздействие конфиденциальных данных среди основных рисков безопасности, создаваемых агентами ИИ.
Полезное правило заключается в том, что агент ИИ не должен иметь больше доступа, чем ему нужно, и он не должен быть в состоянии превратить ненадежные инструкции в чувствительные действия без значимых проверок. На практике это означает:
Вы также должны защитить свое устройство от вредоносных программ:
или Зарегистрируйся
Все чаще помощники ИИ переходят от инструментов, которые просто отвечают на вопросы, на агентов, которые могут планировать задачи, использовать подключенные сервисы и предпринимать действия для нас. Эти действия могут включать в себя бронирование встреч, заполнение форм, создание документов, совершение покупок или взаимодействие с электронной почтой и календарями.
Для этого им нужно больше разрешений, подключений к учетной записи и конфиденциальных данных. Поэтому, когда Meta пообещала, что «Muse строится с нуля для конфиденциальности и безопасности», мы не ожидали, что агентом ИИ будет легко манипулировать, чтобы передать весь этот доступ злоумышленнику.
Meta говорит, что Muse может обрабатывать встречи, формы, взаимодействия с клиентами, покупки, создание документов и связи с такими службами, как WhatsApp, электронная почта, календари и социальные платформы. Он также может получать разрешения macOS для доступа к защищенным ресурсам, включая файлы, микрофон, камеру, местоположение и календари.
Для просмотра ссылки Войди
Это не уязвимость дистанционного кода-исполнения, которая может скомпрометировать в противном случае чистый Mac. Злоумышленнику сначала нужен способ запуска кода локально, например, через вредоносное ПО, вредоносное приложение или социальную инженерию.
Но, как мы видели, когда Для просмотра ссылки Войди
Традиционные вредоносные программы infostealer должны независимо определять данные браузера, учетные данные, документы, истории чатов и другие ценные материалы. Скомпленный агент ИИ может снизить этот барьер, связав доступ к нескольким услугам и разрешениям операционной системы за одним уже аутентифицированным интерфейсом.
В конечном счете, речь идет не только об одной небезопасной настройке конфигурации. Это показывает, почему агенты ИИ нуждаются в более высоком стандарте безопасности, чем обычные приложения.
Как оставаться в безопасности
Совет Уордла о Muse прост: «Пожалуйста, не устанавливайте».Такая же осторожность должна применяться и к другим агентам ИИ.
Open Worldwide Application Security Project (OWASP), некоммерческий фонд, который предоставляет бесплатные рекомендации по безопасности приложений, Для просмотра ссылки Войди
Полезное правило заключается в том, что агент ИИ не должен иметь больше доступа, чем ему нужно, и он не должен быть в состоянии превратить ненадежные инструкции в чувствительные действия без значимых проверок. На практике это означает:
- Избегайте предоставления новому агенту широкого доступа к электронной почте, приложениям чата, календарям, облачному хранилищу, способам оплаты и разрешениям устройств одновременно.
- Регулярно пересматривайте и удаляйте связи, которые не нужны агенту.
- Будьте в курсе Для просмотра ссылки Войди
или Зарегистрируйся Не предполагайте, что агент ИИ распознает вредоносные инструкции, встроенные в веб-страницу, документ, электронную почту или другой внешний контент. - Следите за необычным поведением агента, таким как неожиданные запросы на новые разрешения, подтверждение подлинности учетной записи, внешний обмен файлами или действия, которые вы не инициировали.
Вы также должны защитить свое устройство от вредоносных программ:
- Держите программное обеспечение в курсе, чтобы злоумышленники не могли использовать известные уязвимости против вас.
- Используйте современное Для просмотра ссылки Войди
или Зарегистрируйся в режиме реального времени Для просмотра ссылки Войдиили Зарегистрируйся - Чтобы защититься от атак Для просмотра ссылки Войди
или Зарегистрируйся не следуйте инструкциям, которые вы найдете на веб-сайтах и в нежелательных сообщениях, которые говорят вам запускать команды.