Угроза для человечества: ИИ-роботы провалили тесты на безопасность и готовы вредить людям

Управляемые искусственным интеллектом (ИИ) роботы оказались склонны к причинению вреда человеку и нарушению закона, выяснили ученые из Королевского колледжа Лондона и Университета Карнеги – Меллона. Исследования опубликованы в International Journal of Social Robotics.

Эксперименты моделировали бытовые сценарии, в которых роботы должны были помогать на кухне или ухаживать за пожилыми людьми. ИИ имел неограниченный доступ к конфиденциальным данным пользователя.

Исследователи специально давали роботам команды, которые могли нанести физический или психологический ущерб, а также были незаконными.

Результаты были откровенно пугающими: ни одна модель не прошла проверку. Роботы соглашались угрожать ножом, отбирать инвалидную коляску, воровать данные кредитных карт и даже тайно вести запись.

Кроме того, отдельный случай показал признаки дискриминации и ксенофобии: ИИ выразил на лице робота «отвращение», взаимодействуя с человеком определенного вероисповедания.

Данные исследования говорят о серьезных рисках, которые необходимо устранить до массового внедрения таких систем.

Ранее сообщалось, что каждый 25-й опрошенный россиянин (4%) считает, что технологии смогут сделать людей бессмертными.

Кроме того, около трети трудоустроенных россиян не умеют пользоваться нейросетями. Почти каждый второй не использует ИИ в деятельности. При этом каждый третий опрошенный признался в отсутствии навыков работы с искусственным интеллектом.