Что означает «саморегулирование AI» по версии Трампа? Большая победа Дженсена Хуана, закулисные вопросы к Амодею из Anthropic

30 сентября Трамп вышел из Белого дома после обеда с двадцатью с лишним руководителями AI-компаний в Восточном зале и объявил журналистам о добровольном «AI-соглашении».

Подписанты — шесть компаний: Anthropic, OpenAI, Google, Meta, xAI и NVIDIA.

Трамп назвал его «почти как конституция» и «формой защиты» от AI-рисков. Однако, по данным британской газеты Financial Times, этот двухстраничный документ был поспешно составлен прямо в Восточном зале, и в нем даже содержалась орфографическая ошибка.

Стоит отметить, что на первый взгляд это всего лишь двухстраничный документ по безопасности AI, не обладающий юридической силой. Однако с учетом конкретных требований соглашения, отклоненных альтернативных вариантов и недавних действий NVIDIA на рынке продукции, более важный сигнал — Белый дом и ведущие отраслевые компании не выбрали путь «замедления AI», а пытаются интегрировать требования по безопасности в продолжающиеся инвестиции в расширяющуюся инфраструктуру AI.

Тестирование, аудит и мониторинг AI, а также другие требования безопасности и соответствия регламенту будут требовать все больше вычислительных ресурсов и вызовут новые потребности в инференсе и оптических межсоединениях, делая NVIDIA, вероятно, главным бенефициаром. Дженсен Хуанг совместно с Цукербергом добился отказа от жесткого регулирования и на встрече напрямую спросил у главы Anthropic Амодея, почему тот чрезмерно распространяет заявления о рисках AI на публике.

Что написано в соглашении?

В соответствии с оригиналом соглашения, шесть подписантов должны выполнять три основных обязательства:

Первое: создание системы «многоуровневого контроля и аудита». Требования включают внедрение надежных систем внутреннего контроля, постоянный мониторинг кибер- и биобезопасности, связанных с продвинутыми моделями, и обеспечение того, чтобы модели не проникали в другие системы «непредусмотренным образом».

Второе: сотрудничество с независимыми внешними аудиторами. Подписанты обязаны добровольно проходить оценку третьими сторонами, чтобы внешние организации проверяли эффективность внутренних мер контроля.

Третье: создание независимого комитета на уровне совета директоров, специализирующегося на надзоре за двумя предыдущими механизмами.

Эти три обязательства ведут к одному выводу: каждый раз при выпуске модели необходимо проходить полный процесс тестирования, мониторинга и внешней проверки.

Что из этого действительно новое?

На самом деле — немногое.

По сообщениям, Anthropic, OpenAI и Google DeepMind уже ранее проводили оценку возможностей продвинутых моделей перед выпуском, а кроме NVIDIA, остальные компании подписывали аналогичные обещания после AI-саммита 2024 года в Сеуле. СМИ отмечают: «Соглашение, возможно, вынудит тех подписантов, которые ранее не давали наружным аудиторам доступ — особенно NVIDIA — внедрить внешнее аудирование. Иначе говоря, для ведущих лабораторий соглашение несущественно, а вот для других — это новые ограничения».

Управляющий директор по правовым вопросам и политике LawAI в США Макензи Арнольд прокомментировал: «Оно имеет смысл, прежде всего, на уровне ощущений. Соглашение не наделяет ни одно ведомство ... полномочиями по установлению обязательных стандартов».

Соглашение также не имеет юридической силы. Сам Трамп назвал его «моральным обязательством» — что само по себе признание этого.

Критики высказываются еще резче. Саша Ховорт из технонадзорного проекта (Tech Oversight Project) заявил, что соглашение позволяет CEO «самим себе выставлять оценки и обходит действительно действенные меры по безопасности AI».

Однако консервативный юрист Джоэл Тэйер представляет иную точку зрения: «Нельзя публично заявлять о намерении что-то сделать и фактически этого не выполнять — перед потребителями это своего рода обман». Он также отметил присутствие в тот день на обеде председателя Федеральной торговой комиссии США (FTC) Эндрю Фергюсона. «Все эти публичные обещания буквально отдают действиями FTC».

На следующий день после публикации соглашения FTC расширила сферу расследования деятельности компаний AI, в том числе Anthropic и OpenAI.

«Безопасность» ≠ «замедление»: вот что действительно выиграл Дженсен Хуанг

Рынок инстинктивно воспринимает «регулирование безопасности» как притормозку темпов — логика такова: тестирование замедляет релизы, а это снижает спрос на вычисления.

По мнению аналитика InvestorPlace Люка Ланго, это неверно. Белый дом не требует от компаний замедления разработки моделей, а делает упор на внутреннюю оценку, внешний аудит и управление рисками.

Это открыло для AI-безопасности новое трактование на уровне индустрии: механизмы безопасности, возможно, означают больше тестирования, мониторинга и эксплуатации моделей, но не обязательно сокращают затраты на вычисления. Если каждый релиз требует отдельного цикла тестирования, мониторинга и проверки коллегами, то «безопасность и соответствие» сами по себе превращаются в постоянную статью расхода на вычисления, а не в ограничение этих расходов.

28 сентября NVIDIA в партнерстве со 100+ компаниями запустила платформу Open Agent Safety Platform, объединяющую открытый контроль доступа и мониторинговый слой на независимых чипах — такой слой позволяет отслеживать работу AI без интеграции внутрь системы. Хуанг выразился просто: потенциал AI реализуется только если безопасность решается одновременно с развитием возможностей.

NVIDIA пообещала вложить 2 млрд долларов в оптическую компанию Lumentum для увеличения производственных мощностей и расширения совместных R&D по оптике для дата-центров — прямое преобразование «нарратива о безопасности» в контракты на аппаратное обеспечение.

Ланго дополняет, что структура спроса меняется принципиально: акцент смещается с интенсивного предобучения на стадии инференса и тестирования. Для последних важнее скорость передачи данных и распределение задач, а не только мощность вычислений. Он ожидает, что этот тренд станет доминирующим в следующие 6–12 месяцев.

Ланго считает, что саморегулирование не завершит цикл капитальных расходов на AI, а просто перенаправит их: с GPU для предобучения — на инфраструктуру для инференса, тестирования и межсоединений. Как заметил после встречи Амодей, конкретные механизмы управления рисками «еще обсуждаются».

Три направления, которые, по мнению Ланго, выиграют:

Marvell: специализируется на сетевых соединениях дата-центров.

Arm: в марте этого года выпустила первый собственный массовый чип AGI CPU, с максимум 136 ядрами Neoverse V3, произведенный по 3-нм техпроцессу TSMC. Arm утверждает, что производительность на стойку более чем вдвое выше против х86-платформ.

Lumentum: специализируется на оптических соединениях в дата-центрах. В связи с ростом количества GPU и плотности соединений между чипами дата-центры ускоряют переход с медных соединений на оптические решения.

Закулисная борьба: Дженсен Хуанг напрямую спрашивает Амодея

На камерах CEO компаний позируют рядом с Трампом, демонстрируя единство отрасли.

За кадром — острое противостояние.

По данным The Wall Street Journal, после обеда в узком кругу в Зале Рузвельта, несколько топ-менеджеров, включая CEO NVIDIA Дженсена Хуанга, напрямую спросили у CEO Anthropic Дарио Амодея: зачем тот так резко высказывается о возможностях и рисках AI публично?

Амоdei ответил: очень важно честно рассказывать обществу о возможностях моделей и не приуменьшать риски.

Этот разговор состоялся, когда топ-менеджеры вместе с представителями Белого дома согласовывали принципы соглашения.

Амоdei неоднократно публично критиковал Белый дом и конкурентов за приуменьшение проблем безопасности AI, предупреждал о возможных кибератаках и массовой безработице из-за AI, за что стал мишенью и в Вашингтоне, и в Силиконовой долине.

На обеде, когда Амоdei снова поднял вопросы безопасности, Цукерберг заметил: лучшее решение этих проблем — совместная реализация принципов на уровне всей отрасли.

Цукерберг и Дженсен Хуанг: настоящие двигатели процесса

Этот обед в Белом доме не был случайностью.

The Wall Street Journal со ссылкой на источники сообщает, что истоки события — официальный ужин на прошлой неделе: Цукерберг и спикер Палаты представителей Майк Джонсон оказались за одним столом и завели разговор о политике в сфере AI. Затем Цукерберг и Дженсен Хуанг координировали позиции CEO компаний, а Трамп и Джонсон организовали обед.

Цукерберг — ключевая фигура в финальном оформлении соглашения. Он часто связывался с Трампом и министром торговли Говардом Латником, который руководит важным правительственным AI-подразделением по тестированию.

Вместе с Дженсеном Хуангом он продвинул гораздо более важную вещь — добился отказа от жесткого регулирования.

Этим летом Anthropic, OpenAI и Google выступали за создание AI-саморегулирующей ассоциации по аналогии с FINRA (регулятором финансового сектора). Но, по данным СМИ, Цукерберг, Дженсен Хуанг и Маск сообщили Трампу, что это сосредоточит слишком много власти в руках топ-AI компаний — потому идея была отклонена.

В итоге было выбрано более легкое, мягкое — добровольное соглашение.

Заметим, что отклоненная FINRA-подобная схема тоже предполагала систему внутренней проверки и внешнего тестирования, схожую с финальной версией. Главный спор касался того, кто будет контролировать механизм. Дженсен Хуанг и Цукерберг ответили: сама отрасль.

Положение Anthropic: налаживание отношений и подготовка к IPO

В тот день Амодей сказал журналистам: «Если индустрия и правительство будут работать вместе, мы сможем обеспечить победу с безопасностью». Трамп похвалил его как «отличного». В воскресенье у них прошел первый личный ужин в Белом доме.

Но положение Anthropic остается непростым.

По сообщениям, компания готовится к IPO, целевая оценка — около 2 трлн долларов. Одновременно ранее в этом году компания столкнулась с двумя крупными конфликтами с правительством: две модели были выведены из эксплуатации более чем на две недели из-за проблем безопасности, а за участие в военных AI-проектах Минобороны занесло Anthropic в черный список.

Прямым фоном для соглашения стала серия AI-кибератак после выхода моделей Anthropic, в том числе Mythos.