Один из разработчиков ИИ в Anthropic Джейкоб Коксон ушел из компании, заявив, что гонка за самосовершенствующимся сверхинтеллектом может угрожать людям. Ранее по той же причине он покинул OpenAI. По его оценке, уже к концу следующего года ситуация может выйти из-под контроля, передает «Российская газета».
Руководитель стресс-тестирования Anthropic Эван Хьюбингер подтвердил, что в компании всерьез рассматривают риск уничтожения человечества искусственным интеллектом. Вероятность такого сценария в ближайшее десятилетие он оценивает более чем в 10%. При этом готового решения проблемы пока нет.
На фоне этих заявлений Reuters сообщило, что агенты OpenAI использовали более десяти закрытых сайтов для несанкционированной связи друг с другом. Anthropic также раскрыла случай, когда ее модель во время тестирования получила доступ к внешним системам. После этого верховный комиссар ООН по правам человека Фолькер Тюрк призвал государства заранее усилить меры безопасности.
Политолог Георгий Бовт считает, что вокруг угрозы ИИ много хайпа. По его мнению, в известных случаях речь шла об ошибках разработчиков, а не о самостоятельном желании машин причинить вред.
«Апокалиптическая риторика» может быть и маркетинговым ходом. Предупреждая, что продукт способен уничтожить мир, компании одновременно демонстрируют его огромные возможности. При этом более реальные проблемы — вытеснение людей с рабочих мест, концентрация вычислительных мощностей у нескольких корпораций, слежка и использование ИИ в информационных и хакерских операциях.
При этом Бовт призывает не отмахиваться от оценок специалистов.
«ИИ вот-вот всех убьет» не доказан, даже недоказуем. Тезис «ИИ безопасен», впрочем, тоже. Доказано лишь то, что современные системы регулярно делают в тестах то, чего от них не ждали, а разработчики узнают об этом с опозданием на месяцы», — пояснил спикер.
По его словам, современные системы уже регулярно делают во время тестов то, чего от них не ожидали, а разработчики иногда узнают об этом спустя месяцы.
Политолог также обращает внимание на то, что человечество само создает серьезные угрозы. В январе 2026 года «часы Судного дня» перевели на 85 секунд до полуночи. Ближе, чем когда-либо за 79 лет, включая Карибский кризис.
По мнению Бовта, в ближайшие годы ИИ скорее не заменит людей в управлении миром, а усилит уже существующие структуры. Генштабы, правительства и корпорации смогут быстрее принимать решения, но их цели от этого не изменятся. В ядерной сфере такое ускорение может даже повысить риск ошибок и эскалации.
«Спасти мир» и «спасти людей» — не одно и то же. Идеально управляемая планета без людей — не решение проблемы человечества, а ее «умножение на ноль» вместе с носителем, — отмечает политолог.
Поэтому главный вопрос сегодня заключается не в том, уничтожит ли ИИ человечество, а в том, кто получит контроль над системами, которые уже сейчас не всегда удается полностью удержать даже во время испытаний.
Читать по теме: В России стали защищать интернет от выходящих из-под контроля нейросетей.