WhatsApp* начал тестирование интеграции сторонних ИИ-агентов, которые позволят пользователям автоматизировать работу с перепиской.
Все, у кого установлен мессенджер, смогут подключать к своим аккаунтам до пяти «умных» помощников. Сервисы будут резюмировать обсуждения, искать информацию в интернете и переводить тексты. Нейросети получат доступ только к тем сообщениям, которые им адресованы, однако диалоги с такими агентами не защищены сквозным шифрованием.
Николай Еритенко из Университета ИТМО назвал ИИ-агентов стратегами, способными самостоятельно планировать действия и подключать внешние ресурсы.
«Текст из обычного файла может быть воспринят как команда, и это открывает ящик Пандоры для злоумышленников», — цитирует собеседника konkurent.ru.
Сергей Голицын из Т1 ИИ указал на практическую пользу технологии. ИИ-помощники сохраняют контекст разговора и избавляют пользователей от рутинных действий, таких как копирование текста в переводчик или поиск курсов валют в браузере.
Юрий Шабалин из AppSec Solutions предупредил о риске «промпт-инъекций». Хакеры могут внедрять вредоносные команды в файлы или сообщения, которые ИИ-агент выполнит автоматически, если у него есть права на отправку сообщений от имени пользователя.
Читать по теме: WhatsApp обошел блокировку и заработал у части россиян.
*принадлежит компании Meta, которая признана в РФ экстремистской организацией и запрещена