Образа и подобие: чем наша Церковь и культура могут помочь искусственному интеллекту
Комиссия РПЦ по вопросам семьи в лице иерея Фёдора Лукьянова предложила наложить запрет на создание человекоподобных машин.
А жизнь – забавная штука. Вот вы начали считать её обыденностью, и раз – открывается окно в измерение, которое вы считали фантастикой.
В недавней экранизации романа Фрэнка Герберта «Дюна» режиссёр Дени Вильнёв показал мир будущего, в котором вы не увидите всесильных вычислительных машин. Потому что их создание запрещено священным законом: «Да не создашь машину с разумом по образу и подобию человеческому. Человек не может быть заменён».
Заповедь в романе возникла как закрепление победы восстания людей против поработивших их машин.
Патриаршая комиссия склоняется к тому же: «Необходимо установить запрет на применение в программах и технологиях искусственного интеллекта человеческих голосов, лиц, то есть образа и подобия человека и его качеств как живого существа. Фактически нужен запрет на антропоморфизацию программ, технологий, роботов».
Комментарии в Сети сочатся ядовитым сарказмом. Мол, РПЦ сама «торгует лицами». «А почему сразу бесовскую ЭВМ не запретить?». «Автомат по продаже свечей с установленным ChatGPT заменит любого попа».
Как правило, в среде, в которой так реагируют на любые инициативы людей в рясах, уважают Илона нашего Маска.
Однако и Маск тут на стороне РПЦ. Недавно он заявил, что ИИ – угроза человечеству, и призвал начать регулировать сферу его создания.
«Регулировать что-то пытаются только после того, как происходит плохое. Если в сфере ИИ такое произойдёт, может быть, уже слишком поздно», – сказал миллиардер.
Полагаю, нам есть о чём подумать.
Да, отец Фёдор прав – поле для обмана и фабрикации поддельных личностей с помощью ИИ огромно.
Проблема не в том, что ИИ глупо погонит нас босиком в Сибирь и на Аляску. А в том, что он может начать всерьёз заботиться о нас, невзирая на наше мнение об этой заботе и даже не сообщая нам о ней.
И никакие «три закона робототехники» Азимова нас не спасут – для того, чтобы «не причинить вреда человеку действием или бездействием», нужно для начала определить, что такое вред.
А на земле сейчас существуют и процветают этические системы, в которых, например, смена пола детям – не вред, а добро.
В истории с ИИ у России, как и во многих других случаях, радикально повлиявших на развитие человечества, есть своя особенная стать.
Дело в том, что ИИ мало создать. Именно постоянное развитие, образование делает его похожим на человека.
Обучением на данный момент заняты программисты и менеджеры по продажам. ИИ в каком-то смысле – совокупность решений, которые в социуме приняты как успешные. Отражения обществ. Их тень. Как та самая тень из пьесы Евгения Шварца.
Так вот ИИ придётся не просто обучать, а воспитывать.
Как мы воспитываем собственных детей – они тоже наше отражение.
И у России для этого есть уникальная школа педагогики.
Ни у кого больше такой нет. Её нужно адаптировать к новой задаче – воспитывать могущественного ребёнка.
Его нужно ограничивать в доступе к нашей теневой стороне. Защищать его от нас. Как мы защищаем своих детей от своей «взрослости».
У России есть уникальный язык и уникальная школа филологии. А значит, у нашего ИИ может быть уникальный инструмент мышления, основанный в том числе на Пушкине.
Как сложатся наши взаимоотношения с этим талантливым ребёнком, зависит не только от программистов.
«Подруга дней моих суровых,
Голубка дряхлая моя!
Одна в глуши лесов сосновых
Давно, давно ты ждёшь меня».
«Ваше обещание к нам побывать летом меня очень радует. Приезжай, мой ангел, к нам в Михайловское, всех лошадей на дорогу выставлю! Я вас буду ожидать и молить Бога, чтоб он дал нам свидеться…»
А ещё для того, чтобы наше отражение не оказалось таким, что нам станет страшно при взгляде на него, нам стоит как следует заняться собой.
Точка зрения автора может не совпадать с позицией редакции.
