Сэм Альтман, CEO OpenAI, резко отказался от религиозных метафор вокруг ИИ, назвав их «реальной проблемой безопасности». Ранее он сам говорил о «волшебной интеллигенции в облаке» и надежде быть «на стороне Бога». Теперь он предупреждает: приписывание ИИ духовных качеств опасно. Это важно не только для этики, но и для практики — как мы общаемся о технологиях, так они воспринимаются обществом и регулируются.

Почему религиозные метафоры вокруг ИИ — это не просто риторика

Религиозные сравнения с ИИ не новы. Раньше их использовали и в OpenAI, и в Anthropic. Однако такие метафоры могут создавать ложное доверие. Если люди начинают видеть в ИИ чье-то «божественное начало» или «душу», они могут отдать ему слишком большую власть над принятием решений. Альтман подчеркнул: это угрожает человеческой ответственности.

Что изменилось в позиции Альтмана

В 2023–2024 годах Сэм Альтман неоднократно описывал цель OpenAI как создание «волшебной интеллигенции в облаке». Он также выражал надежду «быть на стороне Бога» и ощущение, что работа над ИИ ставит его «на сторону ангелов». Сейчас же он заявляет, что такие высказывания его «очень смущают», особенно когда к ним прибегают другие.

Как это влияет на восприятие ИИ в обществе

Папа Лео XIV ранее заявил, что «алгоритмы лишены человеческого дара». Это подчеркивает: даже высокоразвитые модели не обладают сознанием. Для разработчиков это значит: важно четко разграничивать, что ИИ может делать, а чего не может. Наделяя технологию чужими качествами, мы рискуем создать недовольство или страх в обществе.

Как не повторить ошибок в общении о технологиях

  1. Избегайте метафор, приписывающих ИИ человеческие или сверхъестественные качества.
  2. Четко формулируйте, что модель — это статистический инструмент, а не существо с намерениями.
  3. Учитывайте контекст: в публичных выступлениях и документации важно быть однозначным.
  4. Следите за тем, чтобы описание продукта не переходило в философию или религиозные размышления.

Где это ломается на практике

Такие функции могут усиливать иллюзию общения с сознательным существом. Разработчикам нужно помнить: удобство и эмпатия в интерфейсе не должны скрывать сущности продукта.

Что попробовать дальше

Если вы создаете ИИ-продукты, попробуйте:

  • Добавить в интерфейс четкие уведомления о том, что ответы сгенерированы ИИ.
  • Использовать нейтральную лексику в описании модели.
  • Проконсультироваться с этикой и специалистами по коммуникации при запуске новых функций.

FAQ

Почему Сэм Альтман отказался от религиозных метафор вокруг ИИ?

Он считает, что приписывание ИИ духовных качеств создает ложное доверие и угрожает человеческой ответственности за принятие решений.

Что такое «волшебная интеллигенция в облаке»?

Это фраза, которую Альтман использовал в 2023–2024 годах, чтобы описать цель OpenAI — создать высокоразвитый ИИ. Сейчас он отверг подобные высказывания.

Как религиозные метафоры влияют на восприятие ИИ?

Они могут ввести людей в заблуждение, заставившь их видеть в ИИ существо с сознанием или божественной силой, что опасно с точки зрения безопасности.

Что сказал Папа Лео XIV об ИИ?

Он заявил, что «алгоритмы лишены человеческого дара», подчеркивая, что ИИ не обладает сознанием.

Как разработчику говорить о своем ИИ-продукте безопасно?

Используйте нейтральную терминологию, четко обозначивайте, что продукт — это статистическая модель, и избегайте метафор, приписывающих ей человеческие качества.

Источники