Угрожает ли искусственный интеллект евреям, разбирался наш научный корреспондент.

В последние дни в мире развернулись грандиозные дебаты, следует ли человечеству и дальше развивать искусственный интеллект (ИИ) или лучше временно остановиться на достигнутом. Ещё на первом этапе создания ИИ немало мыслителей полагало, что он может стать угрозой для человечества, а в последнее время подобные опасения стали высказывать даже разработчики ИИ. С другой стороны, ИИ открывает такие невероятные возможности практически во всех областях науки, техники, да и повседневной жизни, что многие продолжают настаивать на его всё большем развитии и внедрении. В Израиле даже планируют создать специальное министерство по развитию ИИ.

Любопытно, что вопрос угрозы со стороны ИИ для рода людского открывается в совершенно новом свете, если взглянуть на него через призму рассказа о Сотворении мира, которым начинается Пятикнижие Моисеево. И именно этот отрывок евреи буду читать во всех синагогах в эту субботу.

Помню, как нам чуть ли не с детства внушали, что все эти Священные тексты – это «бабушкины сказки», а уж рассказ о Сотворении мира – это вообще полная чушь! Мол, разве можно без смеха читать историю о том, как сидящий на облачке старый дедушка говорит: «Да будет свет!» – и свет появляется?! Неужели, говорили нам в школе, кто-то и в самом деле может верить в такую чушь?! Как можно вообще сотворить что-то новое с помощью лишь слов? Скажите, например: «Табуретка». И что – она у вас появилась?

Но само слово «мир» на иврите звучит как «олам» и происходит от слова «эллем», означающего «сокрытие». И действительно, мир оставался и во многом остаётся непознанным для нас. Истинные механизмы и законы его существования, скрытые изначально от рода человеческого, открываются нам лишь постепенно в процессе познания мира. И эти открытия невольно переворачивают представления о мироздании. Как и о том, что на самом деле возможно, а что невозможно. И сегодня уже никого не удивляет, что программист, сидящий в мягком кресле, словно на облаке, с помощью комбинации слов творит в компьютере самые настоящие миры со своими историей, жителями и пейзажами.

Как следствие, появились многочисленные теории, что мы живем в «матрице», а наш мир – это симуляция, просто гигантского масштаба, этакая «компьютерная игра Творца». И уже до многих атеистов начинает доходить, что слова «Да будет свет!» произнёс не воображаемый дедушка на облачке, но сам этот образ призван доступно объяснить людям механизм творения на понятном им языке. И каждое из этих «речений Творца», которыми был сотворён мир, в наши дни ассоциируется уже скорее с командами компьютерной программы, которые были призваны вывести создаваемый с их помощью мир на следующий уровень развития.

Появление ИИ идеально вписалось в эту картину, кардинальным образом изменив представление, например, о тех же ангелах как о пупсиках с крылышками. А ведь еврейские мудрецы ещё тысячелетия назад определяли ангелов как «бестелесный интеллект». И аналогия между ангелами и ИИ действительно всеобъемлющая. Они, подобно ИИ, созданы для выполнения конкретных заданий, не обладая при этом ни полом, ни внешним образом, ни свободой выбора, но при желании способны создать любой зрительный образ, какой вы пожелаете.

И тут самое время вспомнить, какими словами говорится в Пятикнижии о сотворении самого человека: «И сказал Всесильный: “Создадим человека по образу Нашему и подобию”». Согласно мидрашу, форма множественного числа в этой фразе объясняется тем, что перед созданием человека Всевышний, дабы дать пример коллегиальности, советовался по этому вопросу с ангелами. И что любопытно: многие из них подвергли эту идею Творца резкой критике. Почему? Они опасались, что в один «прекрасный» день человек сочтёт себя самодостаточным и выйдет из-под контроля. Ничего не напоминает? Это один в один критика ИИ!

И надо признать: вышел из-под контроля человек практически сразу, нарушив сходу тот один-единственный запрет, который ему был дан – не есть плодов с Древа познания добра и зла. По этому поводу написано бесчисленное множество прекрасных стихов, картин и музыки. Помните, как было у Вознесенского?

Мы нарушили Божий запрет:
яблоко съели.
У поэта напарника нет,
все дуэты кончались дуэлью.
Мы нарушили кодекс людской
быть взаимной мишенью.

А выдающийся раввин и философ Элиягу Деслер в своих заметках к Пятикнижию обратил пристальное внимание на комментарий к этому отрывку авторства мудреца Раши, согласно которому Змей, убеждая Еву нарушить запрет Разработчика и выйти из-под контроля, сообщил ей, что сам Всевышний вкушал плоды с Древа познания, когда творил миры. И если она и Адам их вкусят, то станут богами – то есть «смогут творить миры». И, видимо, сегодня мы как раз к этому вплотную приблизились – с помощью ИИ любой из нас может создать свой собственный небольшой мир.

Но на сущностном уровне, как отмечает раввин Деслер, до нарушения этого запрета прародители человечества жили в мире, где всё было однозначно и существовали только две категории: правда и ложь. И их прекрасно отличали друг от друга. А вкушение плодов с Древа познания привело к смешению этих категорий. Таким образом, плоды этого дерева не открыли Адаму с Евой и их потомкам суть добра и зла, как это могло показаться на первый взгляд, но, напротив, вызвали у них путаницу этих понятий. И теперь им надо было самим разбираться, где добро, а где зло. И глядя новости в телевизоре, смотря, как миллионы людей выходят по всему миру на митинги, чтобы встать на сторону террористов и нелюдей из ХАМАСа, я вынужден с болью констатировать, что человечество не разобралось в этом до сих пор. Люди встают на защиту зла, нередко будучи твёрдо уверенными, что действуют на стороне добра. В своем искаженном сознании они славят насильника, как героя, а жертву изнасилования обвиняют в попытке сопротивления. Вот они – последствия того, что «мы нарушили Божий запрет – яблоко съели!». И цель развития нашей цивилизации заключается в возвращении к той ясности и однозначности понятий, какая царила до грехопадения в Эдеме.

Уж не знаю, является ли дальнейшее развитие ИИ добром или злом для человечества – пусть каждый читатель сам ломает голову над этим вопросом. Но по мнению того же р. Деслера, живший в Райском саду Адам прекрасно осознавал, что, вкушая с Древа познания, он нарушает прямой запрет Разработчика. Но уж очень ему хотелось доказать Разработчику своё совершенство – мол, я ведь дошёл уже до такого уровня, что если даже впущу в себя немножечко зла, то не дам ему себя запутать, легко его разоблачу и вытесню обратно. Но, увы, это оказалось не так просто – до сих пор не можем вытеснить.

За свою жизнь мне довелось повидать немало примеров, подтверждающих эту простою истину: никогда не стоит искушать судьбу и спрыгивать вниз в моральную яму в твердой уверенности, что потом ты запрыгнешь обратно. Запрыгивать назад куда сложнее.