Глава OpenAI Сэм Альтман снова призывает сбавить темп развития ИИ — пусть и ненамного. Он хочет единую для всей страны систему правил безопасности для продвинутых моделей, но считает, что индустрии не стоит ждать законодателей. Параллельно, по данным The Information, OpenAI, Anthropic и Google уже несколько месяцев обсуждают саморегулирование через независимый надзорный орган. Небольшие игроки опасаются, что из этого получится картель.
Что предлагает Альтман
Альтман продолжает настаивать на единой общенациональной рамке безопасности для продвинутого ИИ. При этом ждать, пока её пропишут законодатели, он не предлагает: индустрия, по его мнению, должна начать сама.
Без государства, впрочем, не обойтись. Для международной координации, признаёт Альтман, нужна поддержка правительства США.
OpenAI уже показывает, как это выглядит на практике. Теперь компания заранее задаёт явные протоколы безопасности для тренировочных запусков, которые могут дать крупный скачок возможностей модели. Альтман надеется, что другие компании «поучатся на наших подходах и предложат свои».
Какую цену Альтман готов заплатить
Ключевую мысль глава OpenAI сформулировал так: «Сдержанный темп вполне стоит этой цены; никакое конкурентное давление на Америку не должно оправдывать безрассудство или позволять возможностям моделей опережать согласование (alignment) и мониторинг».
Судя по контексту, под ценой имеется в виду более медленный прогресс, чем был бы возможен без ограничений. Альтман считает, что оно того стоит.
Упоминание конкурентного давления показательно. Это ответ на один из главных доводов против замедления — страх отстать в гонке. Альтман этот довод не отрицает, но ставит безопасность выше.
Кто ещё высказался за контроль
Альтман в этой позиции не одинок. На выходных за более контролируемую разработку ИИ высказались глава Anthropic Дарио Амодей, бывший глава DeepMind Демис Хассабис, CEO Microsoft Сатья Наделла и Илон Маск.
Сигнал заметный: о контроле почти одновременно заговорили руководители крупнейших ИИ-компаний и Microsoft.
Саморегулирование через независимый надзор
Публичными заявлениями дело не ограничивается. Как пишет The Information, OpenAI, Anthropic и Google уже несколько месяцев обсуждают саморегулирование — через независимый надзорный орган.
Для рынка ключевые вопросы здесь такие: кто войдёт в такой орган, какие у него будут полномочия и станут ли его стандарты обязательными для тех, кто в договорённости не участвует.
Почему Cohere говорит о картеле
Не всем эта инициатива нравится. Небольшие игроки вроде Cohere опасаются, что такая схема может превратиться в картель.
Логика опасений понятна. Если стандарты безопасности задаёт орган, который создали крупнейшие разработчики, они же во многом определяют, насколько дорого и сложно будет вывести на рынок новую модель. Слишком тяжёлые проверки сильнее всего ударят по тем, у кого меньше денег и людей.
| Кто | Что говорит или делает |
|---|---|
| Сэм Альтман, OpenAI | Призывает сбавить темп, хочет единую общенациональную рамку безопасности и считает, что индустрия не должна ждать законодателей. |
| OpenAI | Задаёт явные протоколы безопасности перед тренировочными запусками, которые могут дать крупный скачок возможностей. |
| Дарио Амодей, Демис Хассабис, Сатья Наделла, Илон Маск | На выходных поддержали более контролируемую разработку ИИ. |
| OpenAI, Anthropic, Google | По данным The Information, несколько месяцев обсуждают саморегулирование через независимый надзорный орган. |
| Cohere и другие небольшие игроки | Опасаются, что такая схема превратится в картель. |
Что это значит для разработчиков и продуктовых команд
Кроме собственных протоколов OpenAI, всё остальное пока — заявления и обсуждения. Но направление уже видно, и его стоит учитывать в планах.
Во-первых, темп обновлений. Альтман прямо говорит, что прогресс будет не таким быстрым, каким мог бы быть. Если остальные лидеры пойдут тем же путём, крупные скачки возможностей могут случаться реже. Строить продукт в расчёте на то, что следующая модель сама закроет его слабые места через пару месяцев, становится рискованнее.
Во-вторых, правила доступа. Если независимый надзорный орган всё же появится, его стандарты могут затронуть не только разработчиков моделей, но и условия, на которых модели доступны остальным.
В-третьих, расстановка сил. Опасения Cohere показывают, что спор идёт не только о безопасности, но и о том, кто будет задавать правила. Главное, за чем стоит следить: появится ли надзорный орган, кто в него войдёт и будет ли государственная рамка, о которой говорит Альтман.