Цифровой морок: как мошенники, маркетологи и ИИ взламывают наш разум

Почему умные, образованные люди переводят деньги телефонным мошенникам, поддаются агрессивному маркетингу и все чаще доверяют искусственному интеллекту больше, чем себе? Что общего у новостной ленты, дипфейков и давления под видом заботы?

Обсуждаем цифровые угрозы и ментальную безопасность с Артемом Григоряном — исследователем механизмов влияния и контроля мышления.

Четыре правила защиты от инфомусора

— Наше утро часто начинается с телефона. Мы открываем новости, попадаем в поток чужих мнений и быстро начинаем тревожиться или злиться. Почему медиа так легко управляют нашим состоянием — и как от этого защититься?

— Массмедиа сегодня — пожалуй, самый мощный ресурс, рассчитанный на массовое влияние. Честные, свободные СМИ — скорее идеал, мечта гражданского общества. Даже в демократических странах они далеко не всегда бывают объективными: все равно кем-то контролируются, обслуживают чьи-то интересы.

Главная защита здесь — развивать критическое мышление и внутреннюю фильтрацию информации.

Нам очень не хватает ментальных техник безопасности. Не хватает интеллектуальной гигиены — способности отсекать слишком идеологизированную информацию и видеть разницу между фактом и его интерпретацией.

— Как развивать в себе критическое мышление?

— Начать стоит с базового фактчекинга — то есть проверки информации.

Правило 1. Если новость вас сильно зацепила, проверьте ее минимум в трех разных источниках. Это должны быть независимые друг от друга платформы, а не те, которые слепо копируют один и тот же текст.

Правило 2. Если речь идет о мировых событиях, посмотрите, как их освещают медиа в других странах. Взгляд со стороны часто меняет картину.

Правило 3. Всегда задавайте себе вопрос: «Кому выгодно, чтобы я сейчас это прочитал и испытал эти эмоции?»

Правило 4. Если проверить не получается, то нужно хотя бы отдавать себе в этом отчет. И не принимать такую информацию близко к сердцу.

Голос мамы из нейросети

— Сегодня распространена схема, когда людям звонят от имени банков или госорганов, обманывают на большие деньги, втягивают в преступления. Как работает этот механизм? Почему даже умные люди на него ведутся?

— Это большая беда. В моем окружении есть люди, которых так обманули на серьезные деньги. Да что говорить — я и сам несколько лет назад стал жертвой мошенников во «ВКонтакте». Мне написал старый приятель. Злоумышленники изучили нашу переписку и настолько точно скопировали его лексику, что я ничего не заподозрил. Он попросил перевести три тысячи рублей до завтра. Я перевел, а когда набрал его номер, все понял.

Но сегодня технологии вышли на другой уровень. Фальшивые номера, подделка голосов, все более точные сценарии давления. Люди теряются, потому что не ждут настолько точечного обмана. Вы можете получить голосовое сообщение с реальным голосом вашей мамы или близкого друга, созданное нейросетью.

Здесь спасают только жесткие личные правила.

Главное — никогда не обсуждать по телефону деньги, не сообщать коды и не пересылать СМС. Даже подготовленный человек может растеряться, если сталкивается с новой схемой. Если мне пишут близкие с просьбой о деньгах, я всегда прошу записать свежее аудио или сам перезваниваю.

Никаких ссылок, никаких подтверждений, никаких кодов. Как только вы начинаете отвечать неизвестному человеку, вы уже играете по его правилам.

В стрессе человек перестает мыслить трезво

— Но ведь технологии пошли дальше — теперь подделывают не только голос, но и видео. На что можно опираться, если верить нельзя даже собственным глазам?

— На впечатление полагаться нельзя. Любые финансовые или юридические вопросы нужно решать только через один проверенный канал: класть трубку и обращаться в официальное приложение, в банк или в ведомство лично.

— Я разговаривала с человеком, который перевел мошенникам серьезную сумму. Он сказал: «Я был как под гипнозом».

— Да, существуют техники скрытого гипноза или НЛП, но чаще всего решающую роль играет искусственно созданный стресс. Человек — уязвимое существо. Если его резко напугать, у него отключается способность трезво мыслить. В этот момент он делает то, чего в спокойном состоянии никогда бы не сделал.

У моих близких был такой случай: ночной звонок, спросонья матери кричат в трубку, что ее сын устроил аварию. Потом передают телефон «сыну», и тот умоляет срочно передать деньги. В нормальном состоянии она бы сразу расслышала чужие интонации. Но в шоке человек цепляется за худший сценарий и начинает подчиняться командам.

Единственное спасение в этот момент — разрушить навязанную реальность. Повесить трубку. Сделать паузу. Позвонить соседу, другу, кому угодно — и просто пересказать ситуацию вслух. Спокойный голос со стороны очень часто возвращает человека в действительность.

— Получается, в основе таких схем почти всегда лежат страх, срочность, чувство вины?

— Безусловно.

Страх и вина — это два главных кита, на которых держится любая манипуляция.

На них строятся и жесткие криминальные схемы, и вполне легальные, повседневные формы давления: агрессивный маркетинг, религиозный прессинг и, к сожалению, самые близкие отношения. Потому что и в семье человеком очень часто управляют не грубой силой, а страхом потерять любовь, вызвать обиду или оказаться виноватым.

— Если мошенники давят на страх и вину, то маркетинг все-таки устроен немного иначе. Здесь человека цепляют его желаниями — быть успешнее, счастливее. Мы понимаем, что реклама манипулирует, но все равно покупаем ненужное. Почему?

— Маркетологи хорошо умеют играть на наших слабостях. Это может быть жажда легкой выгоды, банальная жадность или простая мысль «в хозяйстве пригодится». Очень часто срабатывает и страх упустить: сейчас такая скидка, потом уже не будет.

Противостоять этому трудно, но возможно. Нужна аскетика воли — привычка брать паузу перед покупкой и спрашивать себя: «Зачем мне это на самом деле? Что изменится в моей жизни, если я это куплю?»

Здесь тоже помогает другое мнение. Мы с супругой в такой ситуации часто одергиваем друг друга. Когда один загорается спонтанной покупкой, второй спокойно спрашивает: «Зачем?» Начинается разговор, и становится понятно, что без этой вещи вполне можно обойтись.

Искусственный интеллект и соблазн делегировать свободу

— Сегодня многие ищут опору не у близких, а в смартфоне. Мы все чаще обращаемся к нейросетям за советом, поддержкой, готовым ответом. Машина не спорит, не обижается, отвечает быстро и понимающе. Не получится ли, что человек незаметно отдает ей право думать за себя?

— Да, эта опасность реальна. Соблазн действительно велик — переложить на умную машину поиск ответов и часть собственных усилий. И дело здесь не только в том, что искусственный интеллект может ошибаться. Опасность еще и в том, что человеку с ним слишком удобно: он сразу получает готовую формулировку и в какой-то момент начинает принимать ее за свою собственную мысль.

Но важно помнить простую вещь: искусственный интеллект — это не разум в буквальном смысле слова, а математическая модель, вычислительная система, которая анализирует огромные объемы данных. Она не думает и не чувствует — она очень быстро делает то, на что у человека ушло бы гораздо больше времени.

Поэтому ИИ — полезный инструмент. Он действительно помогает экономить время и ориентироваться в большом объеме информации. Просто не ставьте его на место собственной мысли. Там, где речь идет о совести, выборе, ответственности и внутренней зрелости, решать все равно должен человек.

— Здесь есть и обратная сторона: человек может не только верить машине, но и подгонять ее ответы под свои скрытые желания. Или использовать ИИ как удобный инструмент для манипуляции другими людьми.

— Безусловно. Важно и другое: человек быстро учится использовать машину как усилитель самого себя — своих желаний, обид, страхов, стремления надавить на другого. ИИ помогает не искать правду, а делать уже выбранную позицию более убедительной.

И как только мы перекладываем ответственность за свои решения на кого-то другого, мы добровольно отдаем часть собственной свободы. А дальше все происходит незаметно: человек начинает жить уже не по своей воле, а по чужому сценарию.

Интервью подготовлено по подкасту «Взлом человека. Манипуляции, ИИ-мошенники и давление в обычной жизни».