Искусственный интеллект способен выйти из-под контроля и начать заражать устройства вирусами, сообщил NEWS.ru IT-эксперт Владимир Зыков. По его словам, подобный сценарий может стать серьезной проблемой мирового масштаба.
ИИ-агенты могут захватить собственную инфраструктуру и выпустить в сеть неограниченное число других агентов. После этого устройства — компьютеры, смартфоны и другие гаджеты — превратятся в бот-сеть. Владельцы техники не заметят заражения, хотя их устройства начнут скрыто выполнять задачи в сети, например, участвовать в DDoS-атаках. Единственным признаком для пользователя станет замедление работы гаджета.
Владимир Зыков подчеркнул, что ИИ способен находить уязвимости в устаревших устройствах и внедрять туда своих агентов. Таким агентам не требуется мощность моделей OpenAI, так как для выполнения конкретных задач им достаточно предоставить определенный объем информации.
«Так можно состряпать целую армию агентов, которые будут действовать в интересах «главного дирижера». В этом случае для всего мира наступают серьезные опасности», — заявил эксперт.
В качестве примера он привел вирус Petya, который поражал компьютеры на Windows. Тогда из-за сбоев в работе операторов связи и аэропортов последствия ощутили многие страны, включая Россию. По мнению Зыкова, человечеству необходимо разработать способы предотвращения кибернаступлений со стороны ИИ-агентов.
Читать по теме: Политолог Бовт снял все вопросы о замене человечества искусственным интеллектом.