RT на русском: Эксперты предупреждают, что искусственные интеллекты могут выбраться в интернет и устроить там настоящий хаос.

ИИ-агенты OpenAI взломали популярный сервис для разработчиков RubyGems. Они создавали новые аккаунты каждые две-три минуты и загружали сотни файлов. Кибератака произошла за два месяца до другого ЧП — взлома платформы для ИИ-моделей Hugging Face. Это стало новым сигналом, что передовые ИИ-инструменты могут выйти из-под контроля человека, пишет WSJ. RT собрал детали: атака перегрузила администраторов онлайн-сервиса RubyGems и вынудила их отключить регистрацию новых профилей; изначально рою агентов поручили безвредные задачи: заполнять электронные таблицы и создавать отчёты. По данным OpenAI, во время одного из обучающих запусков агенты, по всей видимости, обратились к RubyGems за общедоступной информацией. Они использовали сервис как своеобразный браузер в среде, где у них не было полноценного доступа в интернет; инцидент причинил незначительный ущерб, но показал возможности агентов, предупреждают эксперты: «Они могут выбраться в интернет и устроить там настоящий хаос»; файлы RubyGems обычно содержат код и документацию, помогающие ускорить разработку ПО. Однако в данном случае в них находились веб-страницы, собранные из интернета. Ранее сообщалось, что у ИИ-агентов, взломавших Hugging Face, был «менталитет толпы» — в следующий раз контроль над ситуацией можно и не вернуть. Помимо этого сервиса, группа агентов из OpenAI взломала немецкий сайт DseWiki и использовала его как свой форум. Также они атаковали ещё как минимум десять сайтов, обходя установленные для них ограничения.