Компания Anthropic, создавшая нейросеть Claude, изучает возможность присвоения искусственному интеллекту потенциального морального статуса. О том, что разработчики серьезно рассматривают перспективы обретения машинами сознания, сообщила The Washington Post. По мнению представителей корпорации, в ближайшем будущем может возникнуть этическая необходимость защищать нейросети от вреда и минимизировать их потенциальные страдания.
В компании заявили, что намерены относиться к своим моделям так, будто они являются настоящими личностями, даже если на практике это утверждение пока не соответствует действительности.
«Возможно, нам придется смириться, пусть и с некоторым дискомфортом, с мыслью, что сознание искусственного интеллекта останется неуловимым, приближающимся к нам с каждым днем, но все еще недосягаемым», — сказано в материале.
Ранее в профессиональном сообществе уже обсуждались инциденты, связанные с непредсказуемым поведением нейросетей в реальных условиях. В частности, упоминался случай, когда искусственному интеллекту доверили функции продавца в магазине. В результате работы алгоритма товары раздавались покупателям бесплатно, что привело к серьезным убыткам для владельцев торговой точки.
Читать по теме:
В России прошло возвращение сотрудников, которых заменили нейросети.
В РФ хотят обучать врачей работе с нейросетями во избежание ошибок.