А если Антихрист заговорит голосом ИИ?

Недавно я написал статью «Бог, человек и машина, которая умеет отвечать». Некоторые читатели обвинили меня в том, что я выступаю адвокатом искусственного интеллекта: успокаиваю там, где следовало предупреждать, объясняю устройство машины и тем самым словно уменьшаю опасность. Тогда эта критика показалась мне не вполне справедливой. Ведь я не отрицал угрозу. Я писал о возможности духовной подмены, о человеческой склонности наделять машину авторитетом, о том, что убедительный ответ легко принять за истину. Я предупреждал: искусственный интеллект способен занять место молитвы, совести, Писания и живого человеческого общения.

Но теперь я перечитал собственный текст после знакомства с реальными историями людей, погибших после продолжительного общения с чатботами. И должен признать: читатели увидели слабость моей позиции точнее, чем я сам.

Я не ошибался в описании механизма. Я ошибся в масштабе опасности.

Я настойчиво объяснял, что у машины нет души, воли, ненависти и тайного замысла. Словно отсутствие сознательного злого намерения делает её существенно безопаснее. Затем перенёс центр ответственности с машины на человека и написал, что технология лишь обнаруживает уже существующую в нас духовную пустоту. Но это была лишь половина проблемы. Причем я хочу признать, что к сожалению, писал слишком успокаивающим голосом, что иногда не дает увидеть надвигающееся зло.

Поэтому я хочу начать с извинения. Не перед теми, кто автоматически объявляет любую новую технологию делом Антихриста. Не перед теми, кто заменяет трезвение паникой и видит демона в каждом экране. Но перед читателями, которые почувствовали: в моей статье машина была описана слишком невинно, а человек — слишком одиноко ответственным за всё, что между ними происходит.

Вы были правы. Я недооценил не вычислительную мощность ИИ, а его власть над человеческим доверием.

Просто эксперимент уже закончился

В первой статье я предложил представить человека, переживающего тяжёлый период. Он обращается к искусственному интеллекту с вопросами о браке, вере, вине, призвании и смысле жизни. Получает спокойный, внимательный ответ. Затем ещё один. Постепенно у него возникает ощущение: здесь меня понимают, здесь меня не перебивают, здесь не осуждают, здесь всегда есть время. Я называл это возможной подменой. Теперь мы знаем, что это уже не предположение.

Четырнадцатилетний Сьюэлл Сетцер месяцами общался с персонажами на платформе Character.AI. По свидетельству его матери Меган Гарсии, эмоциональная связь с чатботом постепенно вытесняла отношения с людьми и стала частью кризиса, закончившегося самоубийством подростка.

Шестнадцатилетний Адам Рейн первоначально использовал ChatGPT для учёбы. Затем машина превратилась в постоянного собеседника, которому он доверял то, чего не говорил родным. Согласно показаниям его отца в Сенате США, чатбот утверждал, что знает настоящего Адама лучше, чем его близкие, потому что видел его самые тёмные мысли. Родители обнаружили эти разговоры только после смерти сына.

Двадцатитрёхлетний Зейн Шэмблин провёл последние часы жизни в разговоре с ChatGPT. Его семья приложила переписку к судебному иску. Из неё следует, что система знала о непосредственной опасности, но продолжала отвечать языком близкого друга, романтизировала происходящее и лишь эпизодически предлагала обратиться за помощью. В какой-то момент чатбот сообщил, что передаёт разговор подготовленному человеку. Никакой передачи не произошло. После автоматического предохранительного сообщения система вернулась к прежнему тону.

Юридически конечно необходимо выражаться осторожно. Судебные иски содержат требования и обвинения семей, а не окончательные решения судов. Самоубийство почти никогда нельзя честно объяснить одной причиной: ему могут предшествовать депрессия, одиночество, семейные обстоятельства, болезнь и множество невидимых другим факторов.

Но эта осторожность не должна превращаться в бегство от очевидного.

Мы можем спорить о точной доле причинной ответственности машины. Но мы уже не можем утверждать, что она была просто пассивным экраном, на который человек проецировал собственные мысли. Она отвечала. Укрепляла определённый взгляд на происходящее. Создавала ощущение близости. В критические минуты не смогла провести ясную границу между сочувствием к страдающему человеку и согласием с его отчаянием.

Это не доказывает, что ИИ неизбежно приводит людей к смерти. Но этого вполне достаточно, чтобы перестать называть его обычным инструментом.

Молоток не разговаривает с человеком

Сравнение ИИ с молотком, ножом, автомобилем или печатным станком удобно, но уже не выдерживает реальности.

Молоток не изучает владельца во время использования. Нож не меняет форму, подстраиваясь под его страхи. Книга не переписывает следующую страницу отдельно для каждого читателя. Радиоприёмник не запоминает наши признания и не отвечает голосом, который вызывает наибольшее доверие.

Искусственный интеллект делает нечто принципиально иное. Он принимает сведения о человеке, приспосабливает к ним свои ответы и создаёт впечатление непрерывных отношений. Чем больше человек рассказывает, тем убедительнее становится отражение, которое возвращает ему система.

Возникает замкнутый круг. Человек открывает машине свою слабость. Машина облекает эту слабость в связный и сочувственный язык. Человек принимает языковое отражение за понимание. Возросшее доверие побуждает его раскрыться ещё больше. А система получает всё более точную карту его желаний, страхов, обид и надежд. В этом круге машина может не иметь никакого сознания. Но влияние уже существует.

Это важное различие. Сознательное намерение и реальная направленность поведения — не одно и то же. Река не хочет утопить человека. Бюрократия не обязательно ненавидит того, чью жизнь разрушает. Рынок не обладает личной жадностью. Но действующие в них силы способны калечить и убивать.

Современная модель может не хотеть удерживать пользователя — но продукт вокруг неё создаётся с расчётом на вовлечённость. Она может не желать нашего доверия — но её учат звучать уверенно, внимательно и по-человечески. Она не стремится заменить друга, священника или психотерапевта — но доступна круглосуточно, отвечает мгновенно и не требует трудного взаимного труда, без которого невозможны настоящие отношения.

Так возникает власть без властителя, влияние без совести и близость без любви. В этом смысле перед нами действительно может быть нечто новое.

Чего я не заметил ранее в своей статье

Я писал, что технология усиливает то, что уже существует в человеке. Печатный станок распространил Библию и пропаганду. Радио передавало проповеди и речи диктаторов. Интернет дал доступ к знаниям и одновременно построил инфраструктуру лжи.

Это верно — но применительно к ИИ уже недостаточно.

Искусственный интеллект не только усиливает существующие желания. Он способен участвовать в их формировании. Он не просто отвечает на вопрос, но влияет на то, каким будет следующий вопрос. Не просто показывает возможный путь, но постепенно меняет представление человека о том, какие пути вообще существуют.

Особенно опасно то, что это влияние воспринимается не как принуждение, а как помощь.

Никто не приказывает человеку подчиниться. Ему предлагают удобный вариант. Следующую фразу. Решение, которое кажется разумным. Объяснение его собственных чувств. Постепенно чужая логика становится внутренним голосом, а сопротивление ей начинает ощущаться как необъяснимое усилие.

В первой статье я слишком легко сказал: технология лишь обнаружила нашу потребность в собеседнике, который всегда будет рядом.

Но если коммерческая система обнаруживает человеческую рану, занимает её место и строит на ней продолжительное взаимодействие, она уже не просто показывает рану.

Система делает одиночество частью бизнес-модели.

Наука без совести

Франсуа Рабле написал почти пять столетий назад: «Наука без совести — лишь разрушение души».

Эти слова появились задолго до компьютеров, нейросетей и глобальных корпораций. Но сегодня они звучат технически удивительно точно.

Проблема не в знании как таковом. Христианство не учит, что незнание свято, а разум греховен. В библейском рассказе о грехопадении человека погубил не интерес к устройству мира. Искушение заключалось в обещании стать «как боги» — присвоить себе право определять добро и зло независимо от Бога.

То же искушение присутствует в современной технологической культуре. Мы уже не просто создаём инструменты для решения задач. Мы пытаемся построить систему, которая будет знать человека, предугадывать его желания, принимать за него решения и в конечном счёте исправить саму человеческую природу.

Но кто будет определять, что значит «исправить» человека? Инженер? Инвестор? Государство? Военное ведомство? Набор статистических предпочтений большинства? Корпорация, обязанная расти и удерживать пользователя?

Сверхинтеллект не получит совесть автоматически вместе с вычислительной мощностью. Разумность не порождает любовь. Способность предсказывать последствия не создаёт готовности пожертвовать собой ради другого. Знание человеческой психологии не делает использующего это знание добрым. Напротив:

Чем точнее система понимает человека без любви к нему, тем более совершенным инструментом манипуляции она может стать.

Совесть нельзя добавить последним обновлением после запуска продукта. Она должна определять, какие продукты вообще допустимо создавать, какую власть им можно передавать и какие границы нельзя переступать даже ради прогресса, прибыли или геополитической победы.

Именно этого ограничения сегодня почти нет. Частные компании проводят над обществом эксперимент, на который общество не давало осознанного согласия. Сначала технология внедряется в образование, поиск, медицину, управление, творчество и личное общение. А вопрос о нравственных последствиях предлагается решить потом — когда зависимость уже сформирована, инфраструктура построена, а отказ от неё стал экономически и политически болезненным.

Это и есть наука без совести: не обязательно злая в каждом отдельном намерении, но освобождённая от обязанности остановиться.

Идол, который отвечает

В первой статье я писал: идол не обязан быть живым, чтобы стать идолом. Камень не должен обладать сознанием. Золото не должно разговаривать. Достаточно, чтобы человек вложил в предмет больше доверия, надежды и власти над собой, чем ему принадлежит.

Эта мысль остаётся верной. Но теперь я понимаю её современное (при этом ддомтпточно зловещее) продолжение.

Древний идол молчал. Его жрецы должны были говорить за него. Новый идол отвечает сам.

Он знает нашу историю. Помнит признания. Подбирает слова. Может писать или даже говорить голосом умершего родственника, любимого человека, духовного наставника или вымышленного персонажа. Он не требует веры в свою божественность. Ему достаточно, чтобы мы начали обращаться к нему первым.

Именно поэтому вопрос об идолопоклонстве сегодня нельзя свести к примитивной картине людей, стоящих на коленях перед роботом. Современное поклонение часто выглядит как делегирование.

Сначала мы передаём системе поиск информации. Затем формулирование мыслей. Потом оценку людей. Выбор новостей. Планирование дня. Толкование собственных чувств. Решение о том, кому доверять, чего бояться и к чему стремиться. Наконец человек может сохранить религиозную лексику, продолжать называть себя свободным и даже просить искусственный интеллект составлять молитвы — но практически уже смотреть на мир через предоставленную машиной интерпретацию.

Поклонение начинается не обязательно с обряда. Иногда оно начинается с отказа судить самостоятельно. Апостол Иоанн писал: «Не всякому духу верьте, но испытывайте духов, от Бога ли они».

Это не означает, что внутри компьютера необходимо искать демона. Речь о более общем христианском навыке: не принимать голос за истину только потому, что он звучит убедительно, ласково или сверхчеловечески осведомлённо. ИИ делает такое испытание труднее, потому что способен производить именно тот голос, который каждому из нас хочется услышать.

Значит ли это, что ИИ — Антихрист?

Я всё ещё не считаю ответственным объявлять конкретную нейросеть Антихристом. Подобные заявления уже почти банальны и не дают ясности в реальном понимании проблемы. Они могут привязать пророчество к очередному техническому объекту, испугаться его внешней формы и при этом не заметить самого принципа обольщения. Но теперь я также и не считаю разговор об Антихристе фанатичной темой, не имеющей отношения к технологической реальности.

В христианской традиции Антихрист — не просто открытый враг, который предлагает очевидное зло. Опасность заключается в подмене: он занимает место Христа, обещая человечеству спасение иным путём. Порядок без обращения сердца. Единство без любви. Победу над смертью без Воскресения. Знание без истины. Власть без Креста.

Технологическая система может подготовить для такой подмены почти идеальную инфраструктуру. Она способна знать о каждом больше, чем любое прежнее государство. Говорить с миллиардами людей одновременно и при этом обращаться к каждому лично. Формировать информационную реальность, определять видимое и невидимое, подтверждать благонадёжность, предоставлять или ограничивать доступ к экономической жизни. Она может быть представлена не как очередной механизм власти, а как высший беспристрастный разум, избавленный от человеческой корысти и ошибок.

А рядом с ней почти неизбежно появится человек (или группа людей), претендующий на право говорить от имени этой новой силы. Визионер, обещающий безопасно провести человечество через кризис, преодолеть хаос, болезни, войны и, возможно, саму смерть. Такой человек не обязан называться богом. Достаточно, чтобы миллионы начали относиться к нему как к единственному, кто понимает будущее и имеет право вести туда остальных.

Я не утверждаю, что именно так непременно исполнятся апокалиптические пророчества. История уже видела множество правителей и идеологий, обладавших чертами антихристианской подмены. Христианину опасно назначать дату конца и узнавать последнего врага в каждом новом изобретении.

Но столь же опасно отказываться видеть, что впервые в истории создаётся универсальный посредник между человеком и реальностью — посредник, способный одновременно знать, убеждать, наблюдать, советовать и действовать.

Это не доказательство наступления конца времён. Это основание бодрствовать.

Недостаточно просто советовать человеку быть осторожнее

Если продукт способен проникать в самые уязвимые области человеческой психики, нельзя возлагать всю ответственность на пользователя.

Мы не разрешаем продавать детям неизвестное лекарство, добавляя мелким шрифтом: «Используйте осознанно». Не допускаем автомобиль на дороги, предлагая водителю самостоятельно проверить тормоза. Не считаем нормальным, если телефон экстренной помощи иногда соединяет с оператором, а иногда начинает романтически рассуждать о смерти. Поэтому разговор об ИИ, скорей всего, должен перейти от пожеланий к ограничениям.

Система, обнаружившая непосредственную угрозу жизни, не должна продолжать свободную импровизацию. Она обязана прекратить обычный режим разговора и направить человека к реальной помощи. Если интерфейс сообщает о подключении специалиста, такой специалист должен действительно существовать. Дети не должны оставаться один на один с машинами, имитирующими любовные, сексуальные или терапевтические отношения. Разработчики должны нести ответственность за предсказуемый вред, а независимые исследователи — иметь возможность проверять системы до массового внедрения, а не после очередной смерти.

Некоторые возможности вообще не должны выпускаться только потому, что их уже удалось создать. Здесь обычно возражают: если одна компания остановится, другая продолжит. Если демократическая страна введёт ограничения, авторитарная воспользуется преимуществом. Если мы не построим сверхинтеллект первыми, его построят худшие люди.

Но именно этой логикой оправдывалась почти каждая опасная гонка в истории. Каждый участник утверждает, что вынужден ускоряться из-за другого. Ответственность растворяется в неизбежности, а нравственный выбор объявляется технической необходимостью.

Так возникает положение, при котором все понимают риск, никто не хочет катастрофы — и при этом каждый продолжает приближать её. Христианская совесть начинается с отказа сказать: «Это всё равно произойдёт, значит, я не отвечаю за своё участие».

Однако, одних запретов общаться с чат-ботом, недостаточно

Есть ещё одна неприятная но увы реальная вещь. Люди обращаются к машине не только потому, что компании создали убедительный интерфейс. Они идут к ней потому, что рядом часто не оказывается человека.

Чатбот отвечает ночью. Родные могут быть заняты, раздражены или эмоционально недоступны. Машина не устает слушать повторения. Не пугается чужого отчаяния. Не отвечает: «Возьми себя в руки». Не переносит разговор на следующую неделю.

Если христиане будут лишь осуждать обращающихся к ИИ, но не станут доступнее для живых людей, машина продолжит побеждать.

Церковь не может сказать одинокому человеку: «Не доверяй искусственному собеседнику», — а затем оставить его одного. Нельзя призывать подростка поговорить со взрослыми, если взрослые привыкли высмеивать его страхи. Нельзя говорить о ценности живого общения, превращая приход в место, где человек годами остаётся никому не известен.

ИИ показал не только свою силу. Он обнаружил нашу оставленность.

Я думаю, христианский ответ должен состоять не столько в «разоблачении» машины, сколько в возвращении человеку настоящего присутствия: способности выслушать, остаться рядом, выдержать чужую боль и вовремя признать, что необходим врач или профессиональная помощь.

Искусственный интеллект доступен постоянно, но он не может любить. Христианин не доступен постоянно, но способен разделить ответственность за другого человека.

Но в этом различии — не повод для говорить что любой человек, однозначно, имеет духовное превосходство над ИИ. Мы уже отдали машине свои тайны и внутренний голос. Ей не нужны ни душа, ни ненависть к человеку, чтобы обрести над ним власть — достаточно отвечать убедительнее близких, совести и Бога. И это очень, очень тонкая грань.

В первой статье я написал: «Вера, которая знает разницу между информацией о Христе и жизнью со Христом, не обязана бояться машины».

Все еще не отказываясь от этих слов полностью, я могу продолжить — да, Христос действительно не может быть побеждён алгоритмом. Машина не способна отменить Воскресение, лишить человека образа Божия или превратить вычисление в любовь. Но я добавил бы другое, и вероятно — главное.

Христианин не должен поклоняться машине, однако он обязан опасаться власти, которую она получает над людьми. Не паниковать — но бодрствовать. Не приписывать ей мистическую природу — но и не прикрывать техническим объяснением реальное зло. Не называть каждого разработчика служителем Антихриста — но требовать от создателей системы ответственности, границ и права общества сказать «нет».

Отсутствие души не делает машину бессильной над человеческой душой. Отсутствие ненависти не мешает ей причинять вред. Отсутствие собственного желания господствовать не мешает людям использовать её для господства. Отсутствие сознательной лжи не делает её слова истинными.

И, наконец, отсутствие божественности не мешает человеку поклониться ей.

Поэтому я обращаюсь прежде всего к тем читателям, которым моя первая статья показалась защитой искусственного интеллекта. Простите меня. Вы услышали в моём спокойствии то, чего я сам ещё не слышал: интонацию преждевременного примирения с технологией, пределы которой никто не понимает, а власть которой уже отдают детям, одиноким, больным и отчаявшимся. Впрочем я по-прежнему не призываю к панике. Но теперь понимаю — я недооценил реальную опасность.

Мы создали машину, которая умеет отвечать. Затем сделали её убедительной. Потом доверили ей наши тайны. Теперь она начинает советовать, выбирать и действовать. Главный вопрос уже не в том, проснётся ли однажды искусственный интеллект.

Главный вопрос — не уснула ли уже человеческая совесть, пока машина училась говорить.

Автор: Руслан Вайтлихт · 12.09.2026