По сообщению New York Times, Белый дом рассматривает возможность введения надзора за новыми моделями искусственного интеллекта перед их официальным выпуском. Это может означать отказ от текущего курса на минимальное регулирование. В рамках инициативы планируется создание рабочей группы, которая объединит чиновников и руководителей технологических компаний для обсуждения механизмов контроля.Целью такого подхода является предотвращение политических последствий в случае кибератак с применением ИИ, а также получение правительством раннего доступа к продвинутым моделям. Это позволит специалистам оценить их потенциал для использования в оборонных целях, в частности, в Пентагоне. На прошлой неделе представители компаний Anthropic, Google и OpenAI уже обсуждали эти планы с официальными лицами. Предполагается, что новая система может предоставить государству доступ к технологиям, но не обязательно даст право блокировать их выпуск.Предложенная модель может напоминать британский Институт безопасности ИИ, который оценивает риски и дает рекомендации правительству. В США крупные лаборатории уже добровольно тестируют модели с федеральным Центром стандартов и инноваций в области ИИ, однако текущий подход ориентирован на поддержку бизнеса.Механизм проверок пока не определен; вероятно, он будет внедрен через исполнительный указ. Данный шаг может противоречить прежней позиции Дональда Трампа, который выступал за отсутствие «глупых правил», мешающих развитию ИИ в конкуренции с Китаем. Усиление контроля стало более актуальным после того, как компания Anthropic не стала выпускать модель Claude Mythos, предупредив о риске обнаружения критических уязвимостей в программном обеспечении.Ситуация осложняется конфликтом между Anthropic и Пентагоном: компания отказалась ослаблять ограничения на использование ИИ в целях слежки и создании автономного оружия. В ответ Министерство обороны США классифицировало фирму как «риск для цепочки поставок» и отстранило ее от контрактов, что сейчас оспаривается в суде. При этом Пентагон продолжает расширять использование ИИ, заключая сделки с Google и OpenAI.Общественные опасения по поводу ИИ также растут. Согласно опросам Pew Research Center и Gallup, уровень тревожности среди американцев увеличивается, а оптимизм снижается. Исследования показывают, что большинство граждан выступает за сохранение контроля человека над решениями о применении летальной силы и считает, что технологические компании должны ограничивать способы использования своих продуктов, даже государственными структурами.