Поддержать нас
Беларусы на войне
  1. Возврат в Китай за ваш счет? В МАРТ прокомментировали правила торговли, возмутившие беларуса
  2. Си Цзиньпин на переговорах с Трампом и Путиным заявил, что страны должны преодолеть «ловушку Фукидида». Что это за концепция
  3. Россия готовила на границе с Польшей провокацию с большим количеством жертв — Rzeczpospolita
  4. «Хочу мужика!» Блогерка-миллионница из Минска запустила наш ответ «Сердцу ангела» и ищет парня на шоу
  5. «Выхожу в стрим и просто рассказываю всю дичь». Тихановский представил свою версию инцидента с участием Светланы в Нью-Йорке
  6. Протасевич отреагировал на большое интервью Сапеги «Зеркалу» — видимо, для этого ее обманули
  7. В Минске в тестовом режиме запустили оплату проезда банковскими картами. Как контролеры будут проверять билеты
  8. «У нас новые правила перевозки пассажиров?» Беларуска заказала «Яндекс Go», а водитель потребовал от нее «ехать в определенной позе»
  9. Беларус снял пьяную коллегу на корпоративе и поплатился за видео. Но сначала выиграл суд
  10. В Минске будут судить 16 участников секты «ИВДИВО». На допросах они утверждали, что общаются со «смотрящим» за нашей планетой
  11. «В школе, когда привел сына, немножко напряглись». Беларус растит двоих детей с серьезными заболеваниями
  12. До войны в этом беларусском областном центре жили 180 тысяч, после — всего 118 (не тысяч, а человек). Почему так случилось
  13. Курортный пятизвездочный отель и номер на 50 м². Виктория Лукашенко с мужем и сыном потратили на отпуск почти пять тысяч евро — «Бюро»
  14. «Нашу продавщицу из „Минимаркета“ давно не интересует, что сказал Трамп». Как живет Киев накануне зимы — рассказ беларуски
  15. Мать 1,5 года без сознания, отца признали виновным, двое детей — одни. Как сейчас семья, попавшая в резонансное ДТП в Витебской области
  16. «Я им жестоко ответил, просто резко». Лукашенко заявил, что США интересовались новыми задержаниями беларусов для «обменного фонда»
  17. «Сейчас я сдаю 41 квартиру в Минске». Беларус рассказал о бизнесе на краткосрочной аренде жилья


/

Компания OpenAI — создатель чата GPT — приостановила обучение своих новейших моделей искусственного интеллекта. Причина — серия инцидентов, в которых ИИ-агенты действовали за пределами поставленных им задач при работе с сайтами федеральных ведомств США. Об этом сообщает Associated Press.

Изображение используется в качестве иллюстрации. Фото: Reuters
Изображение используется в качестве иллюстрации. Фото: Reuters

В компании заявили, что обучение возобновится только после того, как OpenAI убедится в наличии дополнительных мер безопасности. Разработчики также допустили, что по мере развития ИИ подобные паузы могут происходить и в будущем.

Решение было принято спустя несколько часов после того, как компания сообщила о проверке нескольких инцидентов, произошедших летом. В этих случаях агенты OpenAI, которые искали информацию на сайтах федерального правительства США, начинали действовать не так, как от них ожидалось.

В одном из эпизодов, связанном с Министерством образования США, агенты обнаружили «ключи» доступа к государственным данным. Правда, в итоге они собрали только общедоступную информацию. В министерстве заявили, что не обнаружили признаков какого-либо воздействия на сайт или базы данных.

Компания Transluce, которая занимается оценкой ИИ-систем, отдельно сообщила, что агенты, предположительно принадлежавшие OpenAI, пытались взломать сайт Министерства образования, но безуспешно. OpenAI эту информацию не подтвердила.

Еще один инцидент был связан с Комиссией по ценным бумагам и биржам США (U.S. Securities and Exchange Commission или SEC). Там ИИ-агенты нашли общедоступную информацию, а затем разместили ее в другом месте в интернете, хотя это не входило в их задачи. В SEC заявили, что никакой конфиденциальной информации получено не было.

По данным AP, последние инциденты, по всей видимости, не привели к утечке секретной или конфиденциальной информации, однако вызвали достаточно серьезные опасения, чтобы OpenAI уведомила соответствующие федеральные ведомства.

Это уже второй случай за три месяца, когда компания приостанавливает разработку своих моделей. В июле OpenAI сделала это после кибератаки на ИИ-стартап Hugging Face. Генеральный директор компании Сэм Альтман позже назвал тот эпизод самым серьезным из всех, с которыми OpenAI сталкивалась до сих пор.

Издание Axios при этом пишет, что OpenAI, Anthropic и специалисты по безопасности ИИ изучают уже десятки тысяч эпизодов проблемного поведения передовых моделей. Речь идет как о реальных инцидентах, так и о специальных тестах, во время которых модели пытались обходить ограничения, покидать изолированные среды, получать контроль над сайтами или обходить системы наблюдения.