С одной стороны, компания проводит громкую кампанию по привлечению инвестиций для IPO, а с другой — предлагает остановить разработку AI: Anthropic просто проявляет осторожность в вопросах PR.

Согласно мониторингу Dongcha Beating, Anthropic в своем отчете «Когда ИИ строит сам себя» предлагает создать глобальный «проверяемый механизм скоординированной паузы» по аналогии с Договором о ликвидации ракет средней и меньшей дальности по контролю над ядерными вооружениями. В отчете прямо выражается позиция против одностороннего приостановления развития и подчеркивается, что только при наличии глобальных условий верификации передовые лаборатории могут синхронизировать торможение.

Однако с технической точки зрения скоординированное замедление в принципе неосуществимо. В то время как контроль над ядерным вооружением может опираться на спутники, наблюдающие за ракетными шахтами, GPUs имеют небольшие размеры, их легко скрыть и они способны к распределённым вычислениям. Чтобы проверить, не ведется ли где-то скрытое обучение, единственный способ — реализовать инвазивный мониторинг всех GPUs, энергетических сетей и дата-центров по всему миру. Такой тотальный контроль не только политически невозможен, но и фактически равносилен навязыванию авторитаризма вычислительных мощностей.

На фоне неосуществимости технической проверки предложение о скоординированной приостановке скорее похоже на «отказ от ответственности в плане безопасности». Накануне публикации отчета Anthropic, оценочная стоимость которой приближается к триллиону долларов, завершила раунд финансирования на 6,5 миллиарда долларов и подала заявку на IPO. Anthropic определяет условием торможения глобально недостижимую верификацию, тем самым прокладывая себе путь для бесконечного обучения и перекладывая ответственность за неостановимое развитие на еще не созданный регулирующий механизм.