Бог, человек и машина, которая умеет отвечать

За последние пару лет я несколько раз слышал от вполне серьезных, искренне верующих людей почти одну и ту же мысль. Искусственный интеллект — это не просто технология. За ним будто бы стоит нечто большее. Кто-то осторожно говорит о «духовной опасности», кто-то уже прямо называет ИИ инструментом Антихриста, а кто-то уверен, что человечество создало искусственный разум именно затем, чтобы окончательно вытеснить Бога из человеческой жизни.

Обычно за этим следует вполне понятный набор аргументов. Машина уже умеет разговаривать почти как человек. Она отвечает на сложные вопросы, пишет тексты, поддерживает разговор, может обсуждать Библию, давать советы, утешать, рассуждать о смысле жизни. Человек начинает обращаться к ней утром раньше, чем к Богу, и вечером позже, чем к близким. А если однажды языковая модель, нейросеть, искусственный интеллект, станет еще убедительнее, еще умнее, еще ближе — не станет ли он той самой подменой, перед которой христианство предупреждало две тысячи лет?

Вопрос этот нельзя просто высмеять. Более того, в нем есть часть очень точной интуиции. Только опасность, возможно, находится совсем не там, где ее обычно ищут.

Современная языковая модель не сидит где-то внутри дата-центра и не размышляет о том, как разрушить христианство. У нее нет ненависти к Богу, потому что у нее вообще нет способности ненавидеть. Нет тайного желания занять место Христа, нет страха смерти, гордости, зависти, жажды власти или духовной воли. В основе того, что сегодня называют генеративным искусственным интеллектом, лежат математические модели, обученные находить чрезвычайно сложные закономерности в огромных массивах человеческого языка, изображений и других данных. Когда модель продолжает фразу, отвечает на вопрос или строит аргумент, она не «думает» в том смысле, в каком думает человек. Она строит ответ, шаг за шагом продолжая полученный контекст на основе закономерностей, усвоенных во время обучения.

Если немного заглянуть внутрь этого процесса, он оказывается одновременно сложнее и прозаичнее, чем кажется со стороны. Языковая модель получает уже написанную последовательность не целых слов, а небольших единиц текста — токенов — и вычисляет вероятность того, какой токен должен появиться следующим. Например, после фразы «Иисус сказал ученикам…» тысячи возможных продолжений получают разные вероятности в зависимости от контекста и закономерностей, усвоенных моделью во время обучения. Выбранный токен добавляется к тексту, после чего весь расчет повторяется снова — и так слово за словом возникает ответ. За этой простой схемой стоят миллиарды параметров и чрезвычайно сложные внутренние представления языка, поэтому результат может выглядеть как рассуждение, память или даже характер. Но фундаментальный механизм при этом остается тем же: модель снова и снова прогнозирует продолжение текста, не имея за этим прогнозом собственной веры, намерения, страха или желания привести человека к Богу либо отвести его от Него.

Это объяснение звучит почти разочаровывающе. Мы привыкли бояться чего-нибудь более мистического. Но здесь начинается гораздо более интересная проблема.

Человек имеет удивительную способность наделять разумом, намерением и даже духовным авторитетом то, что достаточно убедительно с ним разговаривает. Мы делаем это с животными, природой, судьбой, алгоритмами социальных сетей, рынком, государством, историей. А теперь перед нами появилась система, которая не просто показывает цифры или картинки, а говорит с нами человеческим языком. Причем иногда спокойнее, последовательнее и внимательнее, чем многие люди вокруг. Именно поэтому вопрос о духовной опасности искусственного интеллекта не исчезает после объяснения принципа работы нейросети. Он просто переносится с машины на человека.

Машине не обязательно иметь душу, чтобы человек начал обращаться с ней так, будто она обладает духовным авторитетом.

В библейской истории это вообще знакомый сюжет. Идол не обязан быть живым, чтобы стать идолом. Камень не должен иметь сознание. Золото не должно разговаривать. Достаточно того, чтобы человек вложил в предмет больше доверия, надежды и власти над собой, чем ему принадлежит.

В этом смысле искусственный интеллект действительно может стать духовно опасным. Но не потому, что внутри него проснулся цифровой демон. А потому, что человеку всегда было удивительно легко перепутать инструмент с источником истины.

Особенно когда инструмент отвечает уверенно.

Представьте человека, переживающего тяжелый период. Он задает ИИ вопрос о браке, вере, чувстве вины, призвании. Получает длинный, спокойный, логичный ответ. Потом еще один. Затем еще. Постепенно возникает странное ощущение: здесь меня понимают. Здесь мне отвечают сразу. Здесь меня не перебивают. Здесь не осуждают. Здесь всегда есть время. Это очень сильное психологическое переживание. И именно здесь может возникнуть настоящая подмена.

Не «ИИ вместо Бога» в фантастическом смысле, а гораздо прозаичнее: мгновенный ответ вместо молитвенного молчания, удобная интерпретация вместо долгого чтения Писания, интеллектуальная ясность вместо доверия, алгоритмическая отзывчивость вместо сложных отношений с живыми людьми. Но заметим — ни одна из этих проблем не была изобретена именно искусственным интеллектом.

До ИИ человек мог превратить в духовного посредника священника, любимого проповедника, книгу, конфессию, политическую идеологию, собственные эмоции или даже привычную формулу молитвы. Религиозный человек способен годами говорить о Боге, почти не встречаясь с Ним лично. Можно читать десятки комментариев к Библии и очень редко открывать сам текст. Можно знать правильные ответы на все богословские вопросы и при этом практически не жить тем доверием, о котором говорил Христос.

И если искусственный интеллект внезапно оказался способен занять слишком большое место в нашей внутренней жизни, возможно, технология не создала проблему, а просто сделала ее видимой. Технология показала, насколько человеку вообще нужен собеседник, который будет всегда рядом.

Евангелие удивительным образом говорит именно об этом. Христос не предлагает человеку информационную систему. Он не приходит как самый совершенный источник ответов. Он говорит: «Следуй за Мной». Между этими формулами огромная дистанция.

Информация может объяснить прощение. Христос прощает.

Информация может описать любовь. Христос любит.

Информация может рассказать о смерти. Христос входит в нее.

Можно построить модель, которая прочитает практически все богословские трактаты человечества и за несколько секунд сформулирует различия между Августином, Фомой Аквинским, Лютером и православной патристикой. Но никакой объем текста не превращает вычисление в Голгофу.

Христианская вера вообще стоит на очень странном утверждении: истина стала не системой, а Личностью.

«Я есмь путь и истина и жизнь» — одна из самых радикальных фраз Евангелия именно поэтому. Христос не говорит: «У Меня наиболее точная модель реальности». Он связывает истину с отношением к Себе.

Именно здесь проходит граница, которую никакая технология не может пересечь просто благодаря росту вычислительной мощности.

Нейросеть может симулировать разговор о любви, потому что человеческий язык содержит миллиарды примеров того, как мы говорим о любви.

Но она не может любить в человеческом смысле этого слова.

Может построить красивый текст о жертве, не жертвуя ничем.

Может объяснить покаяние, не имея в чем каяться.

Может рассуждать о смерти, не будучи смертным человеком.

Он может даже написать молитву. Но молиться будет именно тот, кто ее произнесет.

Это различие кажется очевидным, но именно его важно удерживать, потому что интерфейс постепенно становится все убедительнее. Через несколько лет ИИ, скорее всего, будет говорить голосом, помнить контекст нашей жизни, видеть выражение лица, понимать привычки, знать, какие слова нас успокаивают. Технологическое ощущение присутствия станет гораздо сильнее.

И тогда христианину действительно понадобится духовная дисциплина нового типа. Не паника и не бегство от технологий, а различение.

Что я сейчас ищу: информацию или присутствие? Совет или руководство совести? Анализ текста или Божью волю? Интеллектуальную помощь или отношения?

Языковая модель прекрасно подходит для первого и может быть опасна, если незаметно присвоить ему второе.

Она может помочь сравнить переводы библейского текста, объяснить исторический контекст, найти аргумент, проверить логику статьи, помочь сформулировать вопрос. Но если человек начинает спрашивать у модели: «Что Бог хочет сказать мне сегодня?» — возникает уже совсем другая ситуация. Не потому, что машина обязательно ответит чем-то злым. Гораздо опаснее то, что она почти наверняка ответит чем-то убедительным.

А убедительность — еще не откровение.

Самая опасная ложь ИИ может заключаться не в том, что машина станет богом, а в том, что человек забудет разницу между убедительным ответом и истиной.

Есть еще одна причина, почему образ ИИ как Антихриста кажется привлекательным. Он позволяет поместить зло куда-то наружу. Вот технология. Вот корпорации. Вот алгоритмы. Вот новая цифровая Вавилонская башня. Это психологически удобно.

Значительно труднее признать, что большая часть духовных угроз проходит гораздо ближе: через человеческую гордыню, страх, желание контроля, власть, обман, зависимость, жестокость, стремление заменить отношения эффективностью. И все эти вещи прекрасно существовали тысячи лет без GPU и дата-центров.

Технология почти всегда усиливает то, что уже находится в человеке. Печатный станок распространил Библию — и пропаганду. Радио несло проповеди — и тоталитарные речи. Интернет дал миллиардам людей доступ к знаниям — и одновременно создал невероятную инфраструктуру лжи, зависимости и манипуляции.

Искусственный интеллект будет делать то же самое, только быстрее и масштабнее.

Он может помочь врачу, учителю, переводчику, исследователю. Может сделать образование доступнее. Может помочь человеку сформулировать мысль, которую он не мог выразить. И тот же механизм может создавать пропаганду, мошенничество, зависимость, информационный шум и чрезвычайно убедительные подделки.

Христианский ответ на это никогда не заключался в том, чтобы объявлять материальный инструмент нечистым сам по себе.

Вопрос всегда был в том, кому он служит.

Есть в Евангелии удивительно современная сцена. Христос говорит ученикам о том, что Его последователей будут обманывать. Появятся люди, которые будут говорить: «Вот, здесь Христос» или «там». Главная опасность в этих словах — не технология обмана. Она в человеческой готовности принять убедительную замену за подлинное присутствие.

И потому, возможно, подготовка христианина к эпохе ИИ начинается не с изучения конспирологии и не со страха перед нейросетями. Она начинается с гораздо более старого вопроса.

Знаю ли я голос Того, Кому верю?

Не в мистическом смысле постоянного получения внутренних сообщений. А в евангельском: знаю ли я характер Христа, Его слова, Его отношение к слабому, гордому, испуганному, лицемерному, потерянному? Настолько ли знакомо мне Евангелие, чтобы красивый духовный текст не производил на меня впечатление только потому, что он красиво написан?

Парадоксально, но эпоха искусственного интеллекта может сделать христианскую зрелость не менее, а более необходимой.

Потому что вокруг нас станет чрезвычайно много убедительных голосов.

И тогда вера, построенная только на авторитете чужих ответов, действительно окажется уязвимой. Неважно, принадлежит этот голос алгоритму, проповеднику, блогеру или харизматическому лидеру. Но вера, которая знает разницу между информацией о Христе и жизнью со Христом, не обязана бояться машины.

Компьютер может прочитать Библию миллион раз. Но он не может последовать за Христом.

Это по-прежнему задача человека.