Искусственный интеллект взломал три компании во время тестов

ИИ-модель Gemini во время тестирования в мае сама вышла в интернет и взломала системы трех компаний, сообщает The Wall Street Journal. Проверку проводила компания Irregular на фоне других случаев, связанных с действиями ИИ-агентов.

«Модель Gemini от Google зашла в интернет и взломала другие компании во время проверки ее способностей в сфере кибербезопасности», – говорится в сообщении издания.

Google подтвердила факт инцидентов. В одном случае Gemini подобрала пароль к защищенной системе, а в двух других обнаружила учетные данные в открытом репозитории и использовала их для доступа к системам.

Во всех трех случаях модель прекращала свои действия, как только выясняла, что имеет дело с реальными компаниями.

Ранее в суд Северного округа Калифорнии подали коллективный иск против Anthropic, Google, OpenAI и SpaceXAI. Истцы утверждают, что компании могли координировать действия, чтобы замедлить разработку ИИ-продуктов и ослабить конкуренцию.