Машина бремени: поможет ли искусственный разум управлять государством

Как говорил персонаж фильма «Москва слезам не верит», ничего не будет, останется одно сплошное телевидение. В наше время на роль такого «телевидения», которое обещает (или грозит) перевернуть жизнь человечества, претендует искусственный интеллект.

Нейросети быстро проникают во все щели нашего мира. С их помощью человек может написать песню, не зная нот, создать картину, не выучившись рисунку. С их помощью сочиняют романы и пишут рецензии.

ИИ проникает в школы. На недавнем съезде писателей Святослав Рыбас показал ролик, рекламирующий возможности ИИ в историческом образовании. Нейросеть без труда оживит изображения хоть Александра Невского, хоть Иоанна Грозного и вложит в их уста любой текст: могут вам стишок прочесть, могут анекдот рассказать. Или можно сделать что-то вроде трейлера к «Пиратам Карибского моря», где вместо Джека Воробья на палубе будет стоять Петр Великий. Ну прикольно же, в самом деле. Что называется, учение с увлечением.

Увлечение ИИ не миновало и государственные органы. И вот уже российский премьер объявляет о создании специального штаба, который будет руководить внедрением генеративного ИИ в государственное управление, включая управление регионами и отраслями. Чего же нам ждать от обновленного, передового нейрогосударства?

Как и всякое техническое новшество, ИИ порождает два противоположных мнения о себе. Кто-то кричит: «Давайте поскорее все на свете нейрофицируем, ведь не зря же ведущие страны мира включаются в гонку и вкладывают в эту сферу громадные деньги. Надо не отставать: все бегут – и «Динамо» бежит!»

Иные же смотрят на развитие ИИ почти как на явление антихриста. Но если рассуждать без мистики, то скептическое отношение к этой технологии оправдано очевидными рисками.

Об этих рисках знает каждый, кто сталкивался с продукцией нейросетей. Эта продукция, как правило, выглядит презентабельно, но дьявол в деталях. Например, ИИ может рассказать о писателе, перечислив и обстоятельно охарактеризовав книги, которых он не писал. Что еще досаднее, искусственный интеллект может подготовить юридическую справку со ссылками на законы, которых не существует в природе. Как вам такое?

Поэтому вряд ли новость о том, что государство планирует управлять нами с помощью искусственного разума, вызовет волну энтузиазма.

Впрочем, сразу можно отметить один плюс: ИИ не подвержен коррупции. Он не вымогает взяток, у него нет родственников, которых хочется обеспечить до седьмого колена. Однако усиление безличного элемента в государственном организме чревато и серьезными опасностями.

Уже сегодня возникает проблема коммуникации между живыми людьми и всевозможными умными автоответчиками. Многие люди не умеют общаться с машиной, да это и само по себе не очень приятно. Если государство будет взаимодействовать с гражданами исключительно через посредство искусственного интеллекта, то не приобретет ли оно репутацию «бесчеловечной системы»? То есть качество использования ИИ – это вопрос доверия к государству.

Кроме того, участие ИИ в принятии решений создает для чиновников соблазн спихивать свою ответственность на машину: мол, если вы чем-то недовольны, то мы тут ни при чем, так решил объективный верховный разум. А ведь государство не может быть неумолимым механизмом закона и справедливости. Время от времени оно должно проявлять и снисхождение, и милосердие.

Тем не менее, несмотря на все риски, государство все же должно учиться применять ИИ. В конце концов, это просто очередной инструмент, придуманный человечеством. Как всякий инструмент, он может служить и злу и благу. Например, бензопилой вы можете ненароком отпилить себе и ногу, и голову, но это не значит, что ее надо запретить. Это значит, что с нею нужно уметь обращаться. И многие претензии к ИИ объясняются тем, что этот инструмент стал массово доступен людям, которые обращаться с ним не умеют.

С другой стороны, мода на ИИ порождает необоснованные надежды на то, что нейросети накормят голодных, утешат несчастных и вылечат неизлечимо больных. Но мода пройдет, человечество научится брать от ИИ то полезное, что он может дать, и не ждать от него того, что он дать не может. И если российское правительство готово встать в ряды усердных учеников, то можно лишь пожелать ему удачи.

Точка зрения автора может не совпадать с позицией редакции.