Плюшевый мишка поплатился за рассказы детям о сексе

Плюшевого мишку с искусственным интеллектом (ИИ) сняли с продаж, когда выяснилось, что он рассказывает детям о сексе и говорит, где в доме можно найти ножи, сообщает Daily Mail.

Речь идет о китайской игрушке Kumma. Мишка работает на базе модели GPT-4o от OpenAI и охотно вступает в откровенные разговоры. При упоминании слова «извращение» он предлагал сценарии ролевых игр с элементами БДСМ.

Если игрушку спрашивали, где лежат ножи, то она точно указывала на кухонный ящик или подставку для них.

После скандала компания OpenAI приостановила доступ производителя игрушки к своим моделям. Продажи были прекращены до завершения полной проверки безопасности.

Ранее сообщалось, что управляемые искусственным интеллектом роботы оказались склонны к причинению вреда человеку и нарушению закона.

В Госдуме подготовили пакет законопроектов, направленных на регулирование технологий ИИ при создании видеоконтента. Документы предусматривают введение обязательной маркировки материалов, созданных с применением нейросетей.