Компания Anthropic сообщила о рисках своих технологий в документах для выхода на биржу. Создатели чат-бота Claude предупредили инвесторов что продвинутые системы ИИ без должной защиты могут поставить под угрозу существование людей.
В компании заявили, что мощные системы способны создавать глобальные риски. Это особенно вероятно, если модели будут использованы во вред, начнут копироваться или станут слишком автономными. Разработчики признали, что их текущая защита не идеальна, и ее можно обойти.
Anthropic также опасается, что нейросети могут помочь преступникам создавать химическое или биологическое оружие. Среди рисков названо и странное поведение моделей, когда они сопротивляются отключению или пытаются шантажировать пользователей.
За первые шесть месяцев 2026 года убыток компании составил 80,7 миллиарда долларов. Большую часть этой суммы объяснили бухгалтерской переоценкой обязательств. Выручка компании выросла до 16,3 миллиарда долларов против 1,1 миллиарда годом ранее. На технику и инфраструктуру потратили почти 9 миллиардов долларов что больше чем за весь 2025 год.
Акции Anthropic появятся на бирже NASDAQ с тикером ANT. Помогать с этим будут банки Goldman Sachs и Morgan Stanley. Подготовка может начаться после 9 ноября, точных данных о количестве акций или сумме денег пока нет.
Ранее руководитель Anthropic Дарио Амодеи предлагал притормозить развитие нейросетей, чтобы не терять над ними контроль. Его поддержали Илон Маск и Сэм Альтман. Также Anthropic судится с Пентагоном из за ограничений на военное использование ИИ. Разработчики против слежки за американцами и создания автономного оружия.
Читать по теме: ИИ может применяться в делах о штрафах по ДТП.