Нейросети стали в два раза чаще распространять фейки

Аналитическая компания Newsguard зафиксировала двукратный рост распространения фейков чат-ботами на основе искусственного интеллекта. Основной причиной стало внедрение функции веб-поиска в реальном времени.

В 2024 году показатель составлял 18%, однако сегодня он достиг 35% при обработке новостных тем. 

Основной причиной распространения фейков стало предоставление нейросетям доступа к веб-поиску в режиме реального времени. В результате алгоритмы стали брать информацию из фальсифицированных источников.  

Если ранний ИИ придерживался стратегии «не навреди» и отказывался отвечать на вопросы, чтобы избежать риска распространения ложной информации, то сейчас он может получить доступ к «зараженной» информационной экосистеме. 

Наихудшие результаты показали нейросети Inflection и Perplexity. Самыми надежными оказались Claude и Gemini.

Ранее интернет-омбудсмен Дмитрий Мариничев в беседе с «Абзацем» заявил, что искусственный интеллект будет определять нежелательный или потенциально опасный для россиян контент и предлагать его заблокировать. Таким образом, станет возможным собрать свой профиль, в котором вход на сторонние сайты будет запрещен.