Altman: безопасность на первом месте, нет графика IPO, выпуск GPT-6.1 Astra отложен из-за чрезвычайной осторожности
Генеральный директор OpenAI, Altman, заявил, что IPO, возможно, будет рассмотрено только после того, как компания получит более четкое представление о том, как безопасно справляться с «следующим уровнем искусственного интеллекта». Выпуск GPT-6.1 Astra был отложен потому, что эта модель не прошла некоторые внутренние тесты по оценке безопасности — решение было принято «из-за чрезвычайной осторожности», а не вследствие серьезных инцидентов. Altman также отметил, что системы безопасности Nvidia для искусственного интеллекта не являются «полноценным решением»; искусственный интеллект — это больше научная задача, чем инженерная.
Генеральный директор OpenAI Сэм Альтман заявил, что у компании на данный момент нет конкретных планов по IPO; проведение листинга не является приоритетом до тех пор, пока не будут определены границы безопасности следующего поколения искусственного интеллекта.
Во время интервью на Дне разработчика OpenAI во вторник Альтман отметил, что IPO возможно состоится только после того, как компания завершит "ряд проверок по безопасности" и получит более ясное представление о том, как надежно управлять "AI следующего уровня".
Альтман указал, что не хочет инициировать IPO, пока внешняя среда, связанная с разработкой ИИ и вопросами безопасности, остается изменяющейся.
"У меня нет определённого графика (для IPO), я считаю, что сейчас время уделять приоритетное внимание безопасности и нашей миссии."
По сообщениям СМИ в тот же день, OpenAI стремится привлечь более 30 миллиардов долларов при оценке 1,4 триллиона долларов, используя переходный раунд вместо IPO для пополнения финансирования.
Почему отложен выпуск GPT-6.1 Astra?
На вопрос о недавнем решении OpenAI отложить выпуск GPT-6.1 Astra Альтман ответил, что модель не прошла часть внутренних тестов компании по оценке безопасности и уровня соответствия стандартам, а не столкнулась с какой-то конкретной серьезной проблемой.
По словам Альтмана, в "немногих оценках, используемых OpenAI, модель показала слегка худшие результаты", и решение было принято "из соображений максимальной осторожности". "На этот раз скрытых серьезных угроз не было," — сказал он.
Он описал приостановку выпуска или доработку моделей, не соответствующих стандартам OpenAI, как часть обычного процесса разработки.
В более широком контексте Альтман подчеркнул, что по мере повышения возможностей моделей вопросы соответствия, безопасности, наблюдения и защиты должны всегда "существенно опережать" возможности самих моделей. Такой подход он называет "регулировкой темпа развития".
Вызовы безопасности AI выходят за пределы инженерии
Альтман также отверг мнение, что "проблемы безопасности AI могут быть полностью решены инженерными методами". Он отметил, что система безопасности, предложенная NVIDIA для AI, не является "полноценным решением". По его мнению, искусственный интеллект — это прежде всего научная задача, а не инженерная.
"Мы всё ещё находимся в стадии поиска в вопросе выработки механизмов соответствия этих моделей," — считает он. Помимо инженерной работы, необходимой для повышения безопасности систем AI, отрасль сталкивается и с научными вызовами.
Что касается юридической ответственности, Альтман прогнозирует появление многоуровневой системы, где распределение ответственности будет зависеть от того, связаны ли неисправности с самой моделью, способом её использования разработчиком или преднамеренным злоупотреблением со стороны конечного пользователя.
Он сравнил такую структуру с автомобильной отраслью — в ней ответственность может лежать на разных участниках в зависимости от того, на каком этапе возникла проблема.
Кроме того, Альтман выразил сдержанный оптимизм по поводу обсуждений в Вашингтоне и международной координации, а также признал, что ожидания по продвижению политики ранее не всегда подтверждались.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Рафаэль Загури: Bitcoin в конечном итоге превзойдет золото
Бауман из Федеральной резервной системы: Искусственный интеллект несёт как возможности, так и риски для банковского сектора; Федеральная резервная система призывает усилить защиту систем.
Заместитель председателя Федеральной резервной системы США, отвечающий за банковский надзор, Бауман, предупредила, что искусственный интеллект оказывает двойное влияние на банковскую отрасль: он служит как инструмент защиты, но одновременно приносит новые риски. Она призвала банки усилить базовые меры кибербезопасности, включая обновление инвентаризации активов, внедрение многофакторной аутентификации и совершенствование управления уязвимостями. Бауман также отметила, что регулирующие органы будут продолжать корректировать методы проверки, применяя дифференцированный подход к регулированию для сообществных банков, а не требуя универсальных решений для всех.
BUZZ-Coastal Financial ожидает восстановления после распродажи в понедельник
Цены на крипто
Далее
