Белый дом попросил OpenAI отложить широкий запуск новой модели ИИ из-за потенциальной угрозы

 

После заявления «Пяти глаз» о том, что опасный ИИ может появиться уже через несколько месяцев, администрация президента США Дональда Трампа обратилась к компании OpenAI с просьбой не предоставлять широкий доступ к модели искусственного интеллекта GPT-5.6 до завершения предварительной проверки. Разработчик ChatGPT планирует сначала протестировать систему с небольшой группой партнеров, после чего может приступить к полноценному запуску.

Как передает ЗН, об этомсообщает TechCrunch.

Как сообщает The Information, генеральный директор OpenAI Сэм Альтман сообщил сотрудникам, что на этапе предварительного доступа правительство США будет одобрять каждого клиента отдельно. Если тестирование пройдет успешно, компания рассчитывает открыть более широкий доступ к GPT-5.6 «через пару недель».

По данным издания, сотрудники OpenAI «тесно сотрудничают» с правительством США над предстоящим выпуском нового ИИ. За его ограниченный запуск, как сообщается, выступили Офис национального кибердиректора США (Office of the National Cyber Director, ONCD) и Управление научно-технической политики (Office of Science and Technology Policy, OSTP).

Хотя администрация Трампа изначально демонстрировала минимальное вмешательство в сферу ИИ, в последние месяцы она усилила контроль за разработкой передовых моделей. В начале июня президент подписал указ, предусматривающий добровольное представление новых моделей ИИ на правительственное тестирование и оценку перед их публичным запуском.

Подход Белого дома к новой модели OpenAI напоминает стратегию в отношении продуктов компании Anthropic, которой ранее запретили масштабировать свою кибермодель Claude Mythos и разрешили открыть доступ лишь небольшому кругу партнеров в рамках программы Project Glasswing. Это объяснялось тем, что модель обладает настолько высокими возможностями в сфере кибербезопасности, что её неправильное использование может представлять угрозу.

Недавно администрация Трампа приказала Anthropic ограничить доступ иностранных пользователей и к новейшим моделям Fable 5 и Mythos 5. Впоследствии компания полностью отключила модели и заявила, что потенциальные риски преувеличены. В то же время эксперты, успевшие воспользоваться Fable 5 и Mythos 5 до отключения, даже начали критиковать Anthropic за то, что установленные ограничения срабатывают слишком часто и блокируют даже безобидные запросы.

 Эксперты отмечают, что современные крупные языковые модели уже способны создавать вредоносное программное обеспечение, а отдельные системы могут автоматизировать значительную часть кибератак. Особое беспокойство вызывают модели, которые могут быстро находить и использовать уязвимости программного обеспечения, хотя из-за закрытого характера таких разработок независимо оценить их реальные возможности пока невозможно.

В тему -  ИИ и муравьи: когда люди станут кормовой базой для суперинтеллекта?

***

Этот сайт можно найти в Фейсбуке - 

https://www.facebook.com/profile.php?id=61571568875800