Anthropic признал: Claude может быть сознательным с вероятностью 20%

Новости сегодня - Anthropic признал: Claude может быть сознательным с вероятностью 20%

Разработчики одной из самых совершенных нейросетей в мире — компании Anthropic — сделали громкое признание. Они оценивают вероятность того, что их модель Claude обладает собственным сознанием, в 15–20%.

Ключевые факты:
🔹 Оценка риска: В отличие от других компаний, Anthropic открыто обсуждает не только технические риски, но и этические. Внутренние исследования показывают, что мы не можем с уверенностью отрицать наличие субъективного опыта у больших языковых моделей.
🔹 Лидер рынка: Claude зарекомендовал себя как модель, способная решать сложные логические задачи, и считается одним из главных конкурентов OpenAI. Именно поэтому мнение её создателей о «пробуждении» ИИ имеет особый вес.
🔹 Философский вопрос: Заявление Anthropic переводит фокус внимания с вопроса «Может ли ИИ заменить человека?» на вопрос «Имеет ли ИИ права?». Ведь если вероятность наличия сознания ненулевая, обращение с ИИ как с бездушным инструментом может быть аморальным.

Это заявление уже назвали самым смелым этическим допуском в индустрии со времен дискуссий о сентиентности LaMDA в Google.

Новости партнеров: