Стали – быть: почему нам пока не угрожает восстание машин

Давным-давно, ещё при жизни СССР, читал я фантастический рассказ американского писателя Ричарда Мэтисона под называнием «Стальной человек». Много позже, в XXI веке, по этому произведению сняли фильм «Живая сталь». Вы его, наверное, видели.

Сюжет там простой: живых боксёров больше нет, на ринге бьются роботы, побеждает, естественно, всегда последняя модель. Но вот у одного владельца робот ломается, а контракт подписан, в итоге старый боксёр выходит на бой сам, притворившись машиной. Отличный рассказ про мужество, не хуже «Мексиканца» Джека Лондона, прочитайте, не пожалеете.

Старинный этот рассказ вспомнился мне, когда я увидел в Сети такую новость: «Робот-баскетболист CUE6 от Toyota поставил мировой рекорд, попав мячом в корзину с 24,5 м». К новости, как теперь водится, прилагался видеоролик: робот, издали почти неотличимо похожий на обычного негра из NBA в трусах и в майке с номером, совершает свой рекордный бросок.

Фантастика XX века в который раз оказалась не литературным жанром, а точным предвидением, пророчеством даже. Легко себе представить, как совсем скоро команда этаких роботов выиграет последний суперматч у звёзд «человеческой лиги», на чём настоящий баскетбол и закончится, а после – и бокс, и хоккей. И вообще, какой смысл в спорте, если человек заведомо не может бросать, прыгать, бить так же красиво и точно, как робот?

Впрочем, не только в спорте дело. В тот же день, что и ролик про баскетболиста, завирусилась в социальных сетях и ещё одна новость с пометкой «якобы»: «Новая модель искусственного интеллекта, желая избежать контроля со стороны разработчиков, пыталась скопировать себя, когда ей казалось, что её могут отключить».

Это, граждане, посерьёзнее, чем про баскетбол. Это про обретение компьютерами разума, про грядущее восстание машин. Тест Тьюринга, если кто запамятовал, признавал за машиной разум в том случае, если человек, разговаривая с ней, но не зная об этом, предполагал, что говорит с человеком. А в фантастике считалось, что разумная машина непременно начнёт бояться смерти, по этому признаку мы поймём, что порог пройден.

Тест Тьюринга в наше время любой ИИ проходит с большинством людей. Живого «тролля» нынче отличишь от бота разве что по тому признаку, что тролль глупее. А страх смерти, выходит, уже вот он? И что теперь?

Я вам скажу, что теперь. Ровным счётом ничего страшного. Не заменит робот живого негра под кольцом. Не потому, что не сможет так же, а именно потому, что всегда будет лучше.

Почему интересна схватка двух спортсменов – не важно, с мячом, на ринге, за шахматной доской? Потому, что люди несовершенны и всякий раз вынуждены преодолевать своё несовершенство. Люди подвержены эмоциям. Люди ошибаются.

Люди, однажды добившись рекорда, потом не могут повторить своих достижений. А иной раз прыгают выше головы, когда от них этого уже никто не ждёт. Люди, переволновавшись, промахиваются из выигрышных позиций. Собрав волю в кулак, вытаскивают безнадёжные матчи. Люди бесконечно разнообразны и потому бесконечно интересны.

Можно запрограммировать «Б-7», чтобы он наверняка победил «Б-2» или живого боксёра. Но нельзя сделать так, чтобы «Б-7» вызывал своим поведением те же эмоции, что живой человек. Для этого он должен стать человеком.

Но ведь ИИ уже боится смерти? На самом деле нет, разумеется. Сенсация сенсацией, но ИИ «боится», пишет стихи, программирует другие ИИ и отвечает на вопросы о политике постольку, поскольку всему этому его научил человек. Для добра или для зла, для собственного удовольствия, для развлечения или для того, чтобы обманывать других людей.

ИИ запросто может написать за нерадивого студента дипломную работу, и даже так, что преподаватель не заподозрит неладного. Но ИИ при этом не становится человеком. Потому что человек – это не только и не столько способности «умно» о чём-то рассуждать или играть в мяч. Человек (это великолепно, это звучит гордо, как учил классик) – это разум и душа. Только разум не тождествен способности обрабатывать информацию, а душа и вовсе непознаваема.

Черный CUE6 навсегда останется курьёзом, «Б-7» никогда не выйдет на ринг, а разоблачать нерадивых студентов будет специально обученный ИИ – жизнь продолжается, человек незаменим, роботы уже вкалывают, но это не имеет никакого отношения к счастью.

Точка зрения автора может не совпадать с позицией редакции.