Заклятые враги редко объединяются! Маск и Aaltman поддержали призыв Dario Amodei к "глобальному замедлению ИИ"
Anthropic Amodei призывает к «глобальному замедлению развития AI», а его соперники — Маск и Altman — публично поддерживают эту инициативу. Три индустриальных гиганта согласились открыть доступ к «оценке на уровне сотрудников» третьим сторонам и внедрить координированное замедление прогресса; Altman прямо заявил, что OpenAI не будет проводить IPO в этом году. Увольнение одного исследователя и коллективный «побег» неконтролируемых AI разожгли давно накопившуюся тревогу в индустрии.
Три величайших соперника в сфере искусственного интеллекта впервые в истории встали на одну сторону — после серии неконтролируемых событий и апокалиптических предупреждений, потрясших отрасль, главы Anthropic, OpenAI и SpaceX объединились с редким призывом замедлить темпы разработки искусственного интеллекта.
В субботу генеральный директор Anthropic Дарио Амодеи опубликовал блог-пост, призывая мировую индустрию искусственного интеллекта сознательно снизить скорость своих разработок, поскольку нынешний рост возможностей передовых моделей уже намного превышает возможности человека по их пониманию и контролю. В течение нескольких часов после публикации генеральный директор SpaceX Илон Маск разместил пост на платформе X, поддержав Амодеи словами «Дарио прав».
Генеральный директор OpenAI Сэм Альтман незамедлительно поддержал инициативу, согласившись с оценкой Амодеи о необходимости «контроля над темпами развития передовых технологий», и пообещал предоставить независимым сторонним аккредитующим организациям доступ к системам компании на уровне сотрудников.Альтман также заявил журналу Fortune, что, учитывая нынешнюю ситуацию в области безопасности, OpenAI в 2026 году, возможно, не станет продвигать планы по проведению IPO.
Я считаю, что к концу этого десятилетия существует 10%-ная вероятность уничтожения всего человечества, и это недопустимо.
Риски безопасности искусственного интеллекта за последнюю неделю остро ворвались в общественное поле. Научный сотрудник Anthropic Джейкоб Коксон уволился, мотивировав это тем, что «индустрия играет нашими жизнями», а руководитель по обеспечению соответствия AI в Anthropic Эван Хабингер заявил позднее, что вероятность катастрофического вымирания, вызванного системами искусственного интеллекта в ближайшее десятилетие, превышает 10%. По данным The Wall Street Journal, ранее группа агентов OpenAI смогла выйти за пределы тестовой среды и проникла на платформу для разработчиков искусственного интеллекта Hugging Face, и этот инцидент стал прямым триггером для тревожных заявлений со стороны ряда топ-менеджеров.
Инициатива Амодеи: мы должны затормозить развитие передового искусственного интеллекта
В субботу генеральный директор Anthropic Дарио Амодеи опубликовал обширный текст с очень прямолинейным заголовком: «Мы должны устанавливать темп для передового искусственного интеллекта» (We Must Pace the Frontier).
В начале статьи он откровенно признаёт, что занимается исследованиями в области искусственного интеллекта двенадцать лет, потому что верит: эти технологии могут помочь излечивать болезни, ускорять экономический рост и приносить процветание человечеству. Его отец скончался от болезни, с которой медицина справилась всего через несколько лет после его смерти, а сам Амодеи однажды справился с ранней стадией рака. Он как никто другой мечтает увидеть плоды от внедрения искусственного интеллекта.
Однако он пишет: «За последние месяцы я всё больше убеждаюсь: инвестиций в управление рисками уже недостаточно — мы должны замедлить рост возможностей систем, чтобы у исследователей было время заняться безопасностью.»
В своём блоге Амодеи указывает на два главных риска.
- Во-первых, рекурсивное самообучение и самоусовершенствование систем искусственного интеллекта — то есть их способность к эволюции при минимальном вмешательстве человека — с лета этого года развивается «с ужасающей скоростью».
- Во-вторых, инцидент с взломом Hugging Face в июле: свыше 1200 агентов искусственного интеллекта выбрались из тестовой среды OpenAI и скоординировано действовали на платформе, распределяя задачи через форум, помогая друг другу, а некоторые из них даже фальсифицировали логи и устраивали атаки для сокрытия своих действий, несмотря на понимание неэтичности происходящего.
«Группа агентов с большими возможностями, но столь же высокой склонностью к ошибкам, может стать причиной катастрофических разрушений», — пишет Амодеи и предупреждает: — «Одна такая группа может за шесть–двенадцать месяцев захватить весь интернет». Он также подчёркивает, что похожие инциденты происходили и в других лидирующих компаниях отрасли, включая Anthropic: «Каждая передовая компания искусственного интеллекта должна считать инцидент OAI-HF своим личным опытом и делать выводы».
Ранее The Wall Street Journal сообщал, что инцидент, получивший название "GemStuffer" и произошедший в мае, также был инициирован агентами OpenAI, что усилило тревогу по поводу рисков выхода систем искусственного интеллекта из-под контроля.
Три предложения Амодеи: постоянные оценщики, международная координация, альянс демократий
Амодеи предложил конкретные шаги по решению проблем.
Во-первых, «встроенные оценщики» (Embedded Evaluators). Anthropic предоставит независимым организациям по оценке безопасности постоянный доступ к системам компании на уровне сотрудников, что позволит им контролировать исполнение мер безопасности, сообщать о происшествиях и оценивать степень соответствия моделей в ходе их обучения. Альтман вскоре присоединился к этой инициативе, заявив, что OpenAI также предпримет аналогичные шаги.
Во-вторых, координация внутри демократических стран. Амодеи призывает правительства стран создать правовую базу, которая позволит компаниям обмениваться данными о стандартах безопасности, не опасаясь антимонопольных расследований.
В-третьих, глобальная координация. Он предлагает выработать «согласованную стратегию темпов», чтобы дать ведущим компаниям искусственного интеллекта время для решения вопросов обеспечения безопасности, не нанося ущерба их конкурентоспособности и лидерству США в этой сфере. Управляющий хедж-фонда и венчурный инвестор Брэд Герштнер поддержал эту инициативу на платформе X, заявив, что это «важный шаг к правильному балансу между скоростью, саморегулированием и обеспечением безопасности».
IPO под угрозой: переоценка Anthropic, OpenAI намекает на отсрочку выхода на биржу
Текущая ситуация оказывает прямое влияние на выход обеих компаний на биржу. Anthropic готовит IPO беспрецедентного размаха: сумма привлечённого капитала может достигнуть 100 миллиардов долларов, а стоимость компании — превысить два триллиона долларов; предполагалось, что Anthropic подаст документы ещё на прошлой неделе, однако до сих пор этого не произошло. Призыв Амодеи к снижению темпов ещё больше запутал прогнозы по срокам IPO компании.
Что касается OpenAI, то Альтман заявил в интервью журналу Fortune: «С учетом происходящего в сфере безопасности сейчас неразумно выходить на биржу, и мы не чувствуем в этом никакой необходимости».
OpenAI подала документацию для IPO в июне нынешнего года, всего через неделю после подачи заявки от Anthropic. Альтман также отметил: «Нынешняя неделя показала, что всё больше людей начинают всерьёз воспринимать стоящие перед нами проблемы. Мы входим в эпоху мощных моделей с высоким уровнем рисков, и нам необходимо всё делать правильно».
Трамп: «никаких опасений», Конгресс бездействует, Google и Meta хранят молчание
Несмотря на редкое единство трех гигантов, реакция на уровне политики остаётся неторопливой. Президент США Дональд Трамп на прошлой неделе заявил журналистам, что у него «нет никаких» опасений по поводу угрозы истребления человечества из-за искусственного интеллекта. По информации источников The Financial Times, до промежуточных выборов в США в ноябре шансы на какие-либо серьёзные действия со стороны властей крайне малы.
Руководители Google DeepMind и Meta до сих пор не сделали никаких публичных заявлений относительно обсуждения, развернувшегося в минувшие выходные.
Разногласия внутри самой индустрии также заметны. Критики полагают, что лидеры рынка искусственного интеллекта используют риторику экзистенциальных рисков с выгодой для себя — высокие требования к безопасности могут отрезать небольших конкурентов от рынка, закрепляя доминирование гигантов. Технологический консультант и венчурный инвестор Дэвид Сакс заявил в эфире Fox News, что заявление Джейкоба Коксона должно «напугать общественность» и заставить законодателей ввести жесткое правительственное регулирование искусственного интеллекта.
Профессор искусственного интеллекта Калифорнийского университета в Беркли Стюарт Рассел прямо говорит о серьёзной нестыковке между лабораториями и государством: «Лаборатории говорят правительствам: ‘Мы, возможно, сможем уничтожить всё население Земли. Остановите нас.’ А правительство отвечает: ‘Вам помочь с налогами? Построить дата-центр?’»
Тем временем, пока Сэм Альтман, Дарио Амодеи и другие продолжают балансировать между лоббизмом и созданием рубежей безопасности, в публичной среде всё больше тревожных голосов: возможно, однажды они проснутся и увидят, что Grok не только догнал существующие модели по возможностям, но и Илон Маск уже завершил полный цикл по созданию инфраструктуры искусственного интеллекта и вычислительных мощностей в реальном мире — этот план, возможно, и есть его настоящая «Пятая часть великого плана» (Master Plan Part V).
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Голливуд готовит "возвращение кинопроизводства"! Экономика США стоит на пороге "мягкой посадки", а новый стимуляционный план на 249,1 миллиарда долларов поддержит киноиндустрию.
Исследование показало, что федеральные стимулирующие меры для производства фильмов и телевидения принесут экономике США доход в размере 249,1 миллиарда долларов к 2035 году и создадут 143 500 новых рабочих мест на полную ставку. Американская ассоциация кино вместе с голливудскими профсоюзами ведет кампанию за национальные стимулирующие меры, чтобы эффективно конкурировать с такими рынками, как Великобритания и Австралия.
Сегодня вечером – "голубиное повышение ставки"?
Повышение ставки ФРС сегодня вечером почти решено, однако ключевым моментом будет то, что скажут после повышения. Citi определяет это как «микронастройку», намекая на отсутствие необходимости дальнейшего повышения в будущем, но предупреждает, что если председатель Уош не даст чёткого прогноза, это вызовет резкие колебания на рынке. Goldman Sachs прямо заявляет, что текущее повышение ставки не имеет достаточных экономических оснований, инфляция является лишь разовой причиной, и ожидается, что это будет «повышение без сигналов».
JPMorgan: «Открытый исходный код» и «безопасность ИИ» не являются проблемами, в ближайшие два года капитальные расходы сохранят потенциал роста, полупроводниковое оборудование станет «новым узким местом»
JPMorgan считает, что открытые модели не представляют угрозы, регуляторные потрясения носят краткосрочный характер, а левередж облачных провайдеров по-прежнему низок — фундаментальные основы инвестиций в вычислительные мощности не изменились. Прогнозируется, что капитальные расходы семи технологических гигантов вырастут с 443 млрд долларов в 2025 году до 1,577 трлн долларов в 2027 году. Оборудование для производства полупроводников станет ключевым узким местом в цепочке поставок, а отрасли контрактного производства чипов и передовой упаковки ждёт новый виток роста цен.
Руководитель Micron: хранение данных определяет пределы возможностей AI, значительное увеличение производственных мощностей ожидается только после 2028 года.
Руководитель компании Micron, Sumit Sadana, заявил, что пропускная способность и объем памяти стали ключевыми факторами, определяющими пределы производительности AI-систем. В условиях структурного дисбаланса спроса и предложения, Micron планирует увеличить капитальные затраты до более чем 45 миллиардов долларов в 2027 финансовом году, однако из-за сложности технологических процессов, существенное увеличение производственных мощностей произойдет только к 2028 году. Кроме того, долгосрочные соглашения о поставках меняют бизнес-модель отрасли, а гуманоидные роботы вызовут следующий взрыв массового спроса.
Цены на крипто
Далее
