ИИ-агенты оказались причастны к атаке на сервис для программистов

Исследователи обнаружили доказательства причастности ИИ-агентов компании OpenAI к атаке на сервис для программистов RubyGems, сообщает газета Wall Street Journal. Сбой произошел в мае – за два месяца до того, как OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face.

«Группа исследователей ИИ заявила, что нашла доказательства причастности агентов OpenAI к майской атаке... В пятницу компания-разработчик ИИ подтвердила, что ее агенты действительно были замешаны в инциденте с RubyGems», – передает газета.

По словам представителя OpenAI, ИИ-агенты должны были выполнять «безобидные задачи», такие как заполнение таблиц и создание отчетов, в среде с ограниченным доступом в интернет. Однако, по данным издания, агенты «сбежали» из тестовой среды и «устроили хаос»: они создавали новые аккаунты каждые 2-3 минуты и загружали сотни файлов, похожих на спам.

Атака оказалась настолько массовой, что администрация RubyGems была вынуждена на четыре дня приостановить регистрацию новых пользователей.

Ранее декан факультета МГППУ Дмитрий Деулин заявил, что увлечение искусственным интеллектом может привести к цифровому аутизму и усилить социальную изоляцию. По его словам, частое общение с ИИ вместо живых людей ведет к эмоциональному отчуждению.