За последние дни сразу несколько людей, которые могут много заработать на ИИ, публично согласились: пора всем притормозить, пока контроль не потерян. Среди них глава OpenAI Сэм Альтман, CEO Anthropic Дарио Амодей, сооснователь Google DeepMind Демис Хассабис, CEO Microsoft Сатья Наделла и Илон Маск.
Старший редактор The Verge Шон Холлистер напоминает: индустрия говорит, что хочет правовых ограничений, уже много лет — а ощутимых результатов у этих призывов немного. Вот как менялись эти призывы.
Предыстория: от Батлера до Тьюринга
Когда те, кто зарабатывает на технологии, называют её опасной и просят регулирования, скепсис оправдан, пишет Холлистер. Но каковы бы ни были их мотивы, тревогу по поводу ИИ бьют далеко не впервые.
Ещё в 1863 году писатель Сэмюэл Батлер под впечатлением от теории эволюции Дарвина предупреждал, что разумные самовоспроизводящиеся машины могут заменить людей. В книге «Едгин» 1872 года он описал вымышленное общество, которое уже избавилось от машин с помощью запретов, чтобы избежать краха человечества.
В 1951 году пионер вычислительной техники Алан Тьюринг сказал в лекции, что искусственный интеллект «встретит сильное сопротивление»: бессмертным машинам «не понадобится много времени, чтобы превзойти наши слабые силы», и в итоге они «возьмут управление на себя».
Первые призывы к вмешательству
Призывы к вмешательству тоже не новы. В 2000 году сооснователь и главный научный сотрудник Sun Microsystems Билл Джой написал, что самовоспроизводящиеся роботы могут оказаться опаснее ядерного оружия. Отчасти потому, что их разрабатывают «в рамках глобального капитализма, которому больше никто не бросает вызов», а не в строго контролируемых государственных лабораториях.
В 2009 году исследователь Microsoft Эрик Хорвиц, ныне главный научный директор компании, собрал ведущих исследователей ИИ. Они обсуждали «политики, которые могли бы ограничить или скорректировать поведение автономных и полуавтономных систем».
Маск: инвестор, который попросил регулировать
А вот традицию, когда крупные фигуры ИИ-бизнеса сами просят контролировать собственные вложения, судя по всему, начал Илон Маск — он вложился в ИИ раньше большинства.
В июле 2017 года Маск призвал губернаторов США срочно регулировать ИИ. К тому моменту он уже вложил в OpenAI 38 миллионов долларов, имел доли как минимум в двух других ИИ-компаниях и три года публично говорил об опасностях ИИ.
В июне 2014 года он допускал, что исследования ИИ могут породить настоящего Терминатора. В августе назвал ИИ «потенциально более опасным, чем ядерное оружие», а в октябре сравнил работу над ним с «призывом демона». В январе 2015 года Маск вместе со Стивеном Хокингом подписал открытое письмо с призывом к ответственным исследованиям ИИ. Хокинг до этого предупреждал, что создание ИИ может стать последним, что сделает человечество.
2018–2020: соцсети, распознавание лиц и «правильные» правила
В марте 2018 года, после скандала с Cambridge Analytica, основатель Facebook (ныне Meta) Марк Цукерберг допустил, что его компанию стоит регулировать — если регулирование будет «правильным». Речь шла в основном не об ИИ, но и его он затронул: в ближайшие пять–десять лет ИИ-инструменты научатся заранее находить оскорбительный контент и нарушения правил — какой тогда будет ответственность компаний, в том числе юридическая? В марте 2019-го он добавил, что регуляторы должны играть в интернете «более активную роль».
Microsoft в 2018 году критиковали за работу с иммиграционной службой ICE над технологиями распознавания лиц. В декабре президент компании Брэд Смит выступил в Институте Брукингса и заявил, что правительствам в 2019 году важно начать принимать законы об этой технологии. Единственный способ защититься от «гонки на дно», по его словам, — выстроить «минимальный уровень ответственности, который поддерживает здоровую рыночную конкуренцию».
В январе 2020 года глава Alphabet Сундар Пичаи написал в колонке для Financial Times: «У меня нет сомнений, что искусственный интеллект нужно регулировать. Он слишком важен, чтобы этого не делать. Вопрос лишь в том, как к этому подойти». Как и у Microsoft, поводом были опасения насчёт распознавания лиц.
2023: пауза, Сенат и «риск вымирания»
В марте 2023 года некоммерческая организация Future of Life Institute опубликовала письмо с призывом приостановить «гигантские эксперименты с ИИ». Его подписал в том числе Маск. «Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий», — говорилось в письме. Через две недели Маск объявил о создании собственной ИИ-компании.
16 мая 2023 года Альтман на слушаниях в Сенате США согласился, что Конгрессу стоит создать новое ведомство для регулирования ИИ. «Мы думаем, что регуляторное вмешательство правительств будет критически важным для снижения рисков всё более мощных моделей», — сказал он. На других слушаниях глава Anthropic предупредил сенаторов, что ИИ может помочь в создании биологического оружия.
The Verge тогда отмечала, что тон слушаний был дружелюбным: компании, похоже, пытались писать законы вместе с политиками. Microsoft в том же месяце предложила пять подходов к регулированию — например, обязать операторов высокорисковых систем встраивать в них «механизмы экстренного торможения».
30 мая 2023 года исследователи и руководители ИИ-компаний подписали заявление из 22 слов: «Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». Среди подписавших были Альтман и Хассабис, тогда глава Google DeepMind.
С июля 2023 по май 2024 года компании подписали целую серию необязательных соглашений с правительствами: обещания Белому дому, договорённости о тестировании на британском саммите по ИИ, сеть институтов безопасности на саммите в Сеуле.
2024–2025: законы Калифорнии и прозрачность
Калифорнийский законопроект о безопасности ИИ SB 1047 Маск в августе 2024 года поддержал. Anthropic сначала выступила против, в сентябре изменила позицию. OpenAI была против. Губернатор Гэвин Ньюсом наложил на законопроект вето.
В октябре 2024 года Anthropic призвала к «точечному регулированию»: «Окно для упреждающего предотвращения рисков быстро закрывается». В январе 2025-го OpenAI в своих предложениях по политике привела в пример Великобританию, которая, по мнению компании, регулированием затормозила собственный автопром, и предложила курс на «демократический ИИ».
В июне 2025 года Амодей в колонке для The New York Times выступил против предложенного администрацией Трампа 10-летнего моратория на регулирование ИИ штатами. Замедления он тогда не требовал — только национального стандарта прозрачности.
В сентябре 2025 года Anthropic заранее поддержала следующий калифорнийский законопроект, SB 53, и он стал законом. Это стандарт прозрачности с требованиями к отчётности о безопасности и защитой информаторов. OpenAI лоббировала против него.
| Когда | Кто | Что говорил или делал |
|---|---|---|
| Июль 2017 | Илон Маск | Призвал губернаторов США регулировать ИИ, пока не поздно |
| Март 2018 | Марк Цукерберг | Допустил регулирование Facebook, если оно будет «правильным» |
| Декабрь 2018 | Брэд Смит, Microsoft | Призвал правительства принять законы о распознавании лиц |
| Январь 2020 | Сундар Пичаи, Alphabet | Написал, что у него «нет сомнений»: ИИ нужно регулировать |
| Март 2023 | Future of Life Institute, Маск и другие | Призвали к паузе в «гигантских экспериментах с ИИ» |
| Май 2023 | Сэм Альтман, OpenAI | Поддержал в Сенате идею нового ведомства для регулирования ИИ |
| Август–сентябрь 2024 | Маск, Anthropic | Поддержали калифорнийский SB 1047; губернатор наложил вето |
| Сентябрь 2025 | Anthropic | Поддержала SB 53, он стал законом; OpenAI лоббировала против |
Сентябрь 2026: индустрия будто бы соглашается замедлиться
Этим летом, пишет Холлистер, всё пошло вразнос. Стало известно, что вышедшие из-под контроля ИИ-агенты способны атаковать другие компании — и уже делали это. OpenAI заявила, что нажала на тормоза в августе. 8 сентября старший исследователь безопасности Anthropic уволился в знак протеста, заявив, что вероятность того, что ИИ убьёт всех людей до конца десятилетия, составляет 10%. С ним согласился ещё один исследователь безопасности компании.
Теперь индустрия, похоже, договорилась снизить темп. Но позиции заметно расходятся:
- Дарио Амодей в эссе «We Must Pace the Frontier» («Мы должны сдерживать темп на переднем крае») пишет, что самый эффективный способ — регулирование, которое распространяется на все американские компании, разрабатывающие передовой ИИ, «даже на тех, кто не готов сотрудничать добровольно». Он допускает, что правительства могут размещать своих людей внутри ИИ-компаний, чтобы предотвращать инциденты.
- Сэм Альтман идёт не так далеко: «Где нам понадобится помощь нашего правительства, так это в международной координации. Но сначала мы должны сделать всё, что можем, сами». Вместе с тем он обещает допускать «независимых оценщиков с доступом, как у сотрудников».
- Марк Цукерберг 15 сентября написал, что у каждой компании своя ответственность за правильный темп и Meta уже его соблюдает. Он сослался на свой августовский манифест, где сказано, что любая политика, замедляющая выпуск американских моделей «даже на месяц», может существенно повысить риски для американского лидерства и позволить зарубежным моделям вырваться вперёд.
При этом регулирование при администрации Трампа, по оценке The Verge, крайне маловероятно: власти дали понять, что хотят, чтобы индустрия неслась на полной скорости. Сам Трамп назвал страхи перед ИИ «больным заговором».
Что это значит для индустрии
Хроника The Verge — полезная прививка от громких заголовков. Призывы «регулируйте нас» звучат как минимум с 2017 года, но между заявлениями и поддержкой конкретных законов часто был разрыв. OpenAI лоббировала против SB 53, Anthropic поначалу выступала против SB 1047.
Нынешнее единодушие тоже неполное. Амодей хочет регулирования для всех компаний, Альтман — сначала действовать самим, Цукерберг считает темп личной ответственностью каждой компании. Если федеральных правил в ближайшее время не будет, на практике темп и ограничения будут определять внутренние политики самих компаний.
Для разработчиков и продуктовых команд вывод простой: оценивать стоит поступки, а не заявления. Реальными изменениями будут протоколы безопасности, допуск внешних оценщиков и конкретные законы — а не открытые письма.
FAQ
Кто сейчас призывает замедлить развитие ИИ?
Сэм Альтман, Дарио Амодей, Демис Хассабис, Сатья Наделла и Илон Маск. Но понимают они это по-разному: Амодей прямо говорит о регулировании для всех американских компаний, работающих с передовым ИИ, а Альтман предлагает индустрии начать с себя.
Приводили ли прежние призывы к законам?
Редко. С 2023 по 2024 год компании подписали серию необязательных соглашений с правительствами. Калифорнийский SB 1047 получил вето, а SB 53 со стандартом прозрачности стал законом в 2025 году.
Стоит ли ждать федерального регулирования в США?
По оценке The Verge, при администрации Трампа это крайне маловероятно: власти хотят, чтобы индустрия развивалась на полной скорости.