nikom

sponsr.ru/ashmanov/76108/Cifrovoi_trans_Razdavit_gadinu_kablukom/
Игорь Ашманов: Общественный диалог про цифровую зависимость и ИИ продолжается бесперебойно.
Был в четверг 19 декабря в медиацентре Мэрии Москвы на конференции по банковскому праву. Меня пригласил на дискуссию Анатолий Козлачков, глава Ассоциации банков России. Он хотел чего-то задорного и бойкого, естественно, про ИИ и цифровизацию в банковском деле, а про что же ещё.
Вторым участником, <<оппонентом>> был известный юрист, бывший глава арбитражного суда А. А. Иванов.
Антон Александрович в целом со мной не спорил, мы в целом были согласны по многим вопросам; но всё же по ходу дискуссии он волей-неволей озвучил популярные мифы про то, что:
А) новые технологии пока регулировать не надо, пусть новые явления сначала разовьются, а то затормозим или отрегулируем не туда.
Я отвечал, что всё развилось уже, 20 лет прошло, все предполагавшиеся и предвиденные риски -- реализовались, сотни миллиардов в год уже крадут мошенники, сотни мамкиных террористов уже вербуют через звонки и мессенджеры. Клиповое сознание, дебилизация детей, кража ПДн и слежка -- всё уже реализовалось.
<<Экономика данных>> уже давно работает, она прибыльна, просто она на 95% хохляцкая, а данные -- наши. Ждать тут нечего, опаздываем.
Б) вот европейцы жёстко зарегулировали персданные и ИИ -- вот у них и <<нету Интернета>>, нету ИИ. Нельзя останавливать <<развитие технологий>>!
Я возражал, что про развитие ИИ и интернетов лучше не фантазировать юристам, а спросить у разработчиков. Что тут перепутаны причины и следствия: европейцы ещё с конца 1990 годов ниасилели создать собственные интернет-сервисы -- ни поисковики, ни соцсети, ни большие системы ИИ. Кадры высосала Долина.

Я, в частности, в в конце 1990-х и начале 2000-х наблюдал сбоку попытку создать поисковик Кэро (Quaero) на деньги французской и германской разведок, в противовес Гуглу -- ничего не вышло.
Вот им и приходится регулировать своё цифровое пространство, потому что в их странах свободно гуляют по буфету глобальные американские цифровые корпорации, абсолютные беспредельщики, которых на их родине по сути никак не регулируют. Европейцы, получается, не свой Интернет регулируют и не свой ИИ, а американский. Пространство цифровое -- своё, а акторы в нём -- чужие.
Дальше -- неизбежно -- перешли на телефонных мошенников. Это же тема, связанная с банками непосредственно и неразрывно.
Про мошенников Антон Иванов сказал типовую, шаблонную фразу, которую я слышу регулярно от людей, гордых своей осознанностью: <<А я вот просто не беру трубку на неизвестные звонки -- и так может поступать каждый>>.
Нет, каждый, очевидно, так не может. Иначе бы хохлы из контакт-центров Запорожья и Харьковщины не крали бы у граждан РФ по 200-300 миллиардов в год.
Цифровая грамотность
Так почему же миллионы соотечественников ведутся? По результатов разных опросов задеты несколько миллионов человек. И это не те, кому хохлы просто безуспешно позвонили -- этих-то сотня миллионов. Позвонили практически всем.
А вот тех, у кого что-то реально украли (или почти украли) -- несколько миллионов. Кто повёлся.
Разводки не щадят ни профессора, ни колхозника. Попадаются не только певицы и пенсионерки, переводят огромные суммы чиновники, дипломаты, специалисты по информационной безопасности, менты и чекисты.
Но они же всё знают, казалось бы? Им же говорили, их учили, они видели примеры знакомых? Некоторые из них сами учат других инфобезопасности или принимают законы против мошенничества. А потом переводят миллионы рублей, да ещё пребывают <<под воздействием>> недели, а то и месяцы, не слушая уговоров ближних и полицейских.
Как же так?
Ну то есть собственно знание тут не причём.
Мы уже не раз обсуждали здесь, что обучение граждан <<цифровой грамотности>> -- не поможет.
Это лукавство, способ отмазки для <<Альянса искусственного интеллекта>>, <<Ассоциации больших данных>>, <<Альянса защиты детей>>. Мы же вот -- обучаем граждан, говорим им о рисках! Этично? Этично! Ну и всё, мы сделали всё, что могли.
А тогда уже не нужно переставать собирать поведенческий излишек, собирать цифровой профиль и зарабатывать на нём, мы ведь и так -- этичный бизнес, помогаем населению, образовываем его. Пляшем дальше. Продолжаем накапливать первичный цифровой капитал.

Почему цифровая грамотность бесполезна, не снимает проблему?

Конверсия
Для мошенников важна конверсия контакта в реальную разводку, в деньги.
Они совершают контакты веером, миллионами. Здесь работает дешевизна контакта, при которой высокая конверсия в реальные жертвы -- не особенно-то и нужна. При работе по площадям всегда можно попасть на кого-то, кого не <<научили цифровой грамотности>>. Или находящегося в слабой позиции.
<<Холодильник>> из Запорожья делает 400-500 <<холодных звонков>>, то есть контактов <<с улицы>> в день. То есть, при 10-20 миллионах звонков, по нам работает 20-30 тысяч телефонных мошенников. Возможно, и в несколько раз больше. Это большая государственная операция СБУ.
Мошеннику достаточно одного <<успешного>> контакта в день, чтобы найти человека в слабом состоянии и развести. И то -- много. Это даст 20 000 обманутых в день. Если воруют 500-700 миллионов рублей в день (ведь если сейчас 200-300 миллиардов в год, делим на 365, получаем) -- это похоже на правду. По порядку величин.
А уже сейчас ИИ с дипфейками с видео знакомых и родственников или просто с автоматическим голосовым диалогом уже позволяет делать не 500 звонков, а 5 тысяч или 50 тысяч в день с одного сервера. Да сколько угодно.
При этом ИИ можно натренировать на быстрое распознавание и сброс неудачного звонка, когда пациент не ведётся. И на распознавание перспективного, слабого реципиента звонка -- глупого, рассеянного, с затуманенным сознанием. Это тоже уже можно делать автоматически. Лучше <<холодильника>>.

Слабое состояние
Все мы пребываем в слабом состоянии регулярно. Да почти всегда. Забываем ключи, слова, позвонить, поздравить, растеряли школьные и университетские знания, ударяемся головой о кухонную вытяжку, надеваем майку наизнанку и забываем застегнуть ширинку.
Я написал это про майку за завтраком -- и вдруг тут же дочка мне и говорит: <<папа, а ты знаешь, что у тебя майка наизнанку?>>. Вот оно. Конечно, наизнанку, ещё бы: меня собаки подняли в шесть утра, скреблись в дверь и цокали по паркету, пришлось, чертыхаясь, одеваться в темноте и водить их среди ёлок по щиколотку в снегу.
Вычислить человека в таком временном слабом состоянии -- не трудно. Есть типовые признаки, издревле известные продавцам и мошенникам.
Так отбирают жертву подставщики на дорогах: видят, что человек ведёт автомобиль неуверенно, отвлекается. Так выбирают жертву цыганки на улице, другие мошенники и карманники. Рассеянность, невнимательность, потерянность, поддатость, кошелёк торчит из заднего кармана, незакрытый клапан рюкзака на вокзале.
Увидел неуверенного, рассеянного, расстроенного -- дальше можно работать: ой, есть у тебя враг, очень злой человек, ждёт тебя казённый дом, возьми деньги, заверни в них свой волос, а то будешь импотентом семь лет...
Я как-то много десятилетий назад сказал цыганке, которая подошла ко мне ранним утром на вокзале Севастополя:
-- А ты не боишься, что где-то ходят настоящие колдуны? Вот скажу тебе петушиное слово, ноги у тебя и отнимутся.
У цыганки на лице отобразился невыразимый словами ужас, она подхватила свои тридцать юбок и пустилась от меня бежать через площадь.
Мой оппонент юрист Антон Иванов на это рассказал за кофе свою аналогичную историю:
-- А я сказал недавно приставшей цыганке на улице: <<Сейчас прокляну тебя, и ты умрёшь!>> -- с тем же эффектом.
Но мы не можем сказать этого цифровым платформам Яндекса, Сбербанка, МТС, Озона, WB... Или не знаем правильного <<петушиного слова>>.
В таком неравновесном контакте с профессионалами манипуляции почти любой человек -- принципиально слабая сторона взаимодействия.

Слабая сторона
Есть юридическое понятие <<слабая сторона договора>>. Оно описывает участника сделки с недостаточным пониманием условий договора, с недостаточными ресурсами для торговли по условиям, вынужденного заключать сделку на чужих условиях.
Условный пенсионер, неспособный прочесть мелкий текст в договоре кредитования. Или подросток, вообще не понимающий, что это за Terms of service с квадратиком для галочки.
>>...Слабая сторона договора -- та, которая присоединяется к договору с сильной стороной без права изменить его условия или предложить свои. Слабой будет также и та сторона, которая вынуждена заключать договор с контрагентом на его условиях из-за неравности переговорных возможностей.
Например, сильная сторона договора -- та, чьи договоры определяют стандартные формы, так что заключить такой договор можно только целиком, не меняя условий ...>>.
Мы -- всегда слабая сторона в цифровом взаимодействии.
На нас наваливаются цифровые платформы с их <<договорами>> (правилами пользования, <<лицензиями>>) которые нельзя изменить, а можно только подписать, машинально и поспешно подняв галочку <<я согласен>>, и которые они меняют в одностороннем порядке, иногда без уведомления.
А также на нас наваливаются прямо и косвенно тысячи других игроков безо всяких договоров и предупреждений -- рекламных сетей, рекомендательных систем, маркетплейсов, билетных касс, поисковиков, интернет-СМИ, тизерных сетей -- мощных цифровых сущностей, односторонне, принудительно навязывающих свой формат взаимодействия и своё содержание взаимодействия -- в том числе на основе обширного знания о нас, собранного без нашего согласия или украденного, купленного, вычисленного.
Но они не просто сильная сторона -- они пытаются нас ещё ослабить дополнительно. Они специально, целенаправленно создают оглушающий, захлёстывающий, сбивающий с ног поток событий и раздражителей.

Бурный поток раздражителей
Здесь уместно процитировать важную мысль Мараховского из недавнего поста про <<кризис информированности>>, что тысячи раздражителей из цифровой среды вводят нас в слабое состояние.
Процитирую для тех, кто на него не подписан:
...Потому, например, что одним из эффектов современной гиперинформированности граждан является, согласно исследованиям, особая <<цифровая>> рассеянность.
<<Сильная зависимость от мобильных телефонов вызывает (...) потерю внимания к текущим действиям, что приводит к ,,загромождённостью мыслями". Установлено, что проблемное использование мобильных телефонов увеличивает возникновение эффекта ,,блуждания мыслей", хотя нейронный механизм, лежащий в основе этой связи, остается неясным>>.
Мы не нейрофизиологи, и биологическая механика не наше дело. Мы можем лишь по-житейски предположить, что ум ув. современника защищается от потоков изливаемого на него демократичного буллшит-контента обесцениванием вообще любого контента -- и, если можно так выразиться, автоматизацией своих реакций на всё. То есть ставит себя на круиз-контроль и блуждает мыслями где-то внутри своих миров. ...
... К тому же у ув. современника, находящегося в состоянии, близком к непрерывному онлайну (не зря это называется <<всегда доступен>>), точек входа заметно больше, чем у жителя прежней эпохи.
В общем, в нас ежеминутно стучатся тысячи событий, попыток контакта, раздражителей.
Новости военкоров, прилёты в глубине страны, важнейшие события из жизни селебритис (<<певица N пришла со свежим кавалером, актёр Счастливцев выгнал пятую жену ©>>), мемасики, кусочки развлечений, видосики, фейки, срочносборы на <<парней>> и <<детей>>, заявления политиков, заявки в друзья, комменты к постам, сообщения в мессенджерах, звонки с неизвестных номеров.
Параллельно -- реальные события, неприятности, проблемы, требующие немедленного решения. Перевести денег, вызвать такси жене, проблемы у подчинённого, купи еду коту, проиграли суд, возбуждено исполнительное производство, доставка задерживается, заплатите налоги, ребёнка отправили из школы домой с тошнотой, заболел родственник, нет подарка на завтрашнее торжество и т. п.
Параллельно -- несколько окон, музыка в ушах и т. п. Непрерывное ***** сообщений в мессенджерах, бесконечная лента сообщений и новостей, подкачиваемая снизу -- специально созданные крючки восприятия.
И так 7-8 часов в день. Иногда 10-15. Мало кто догадывается и в состоянии включить режим opt-in, а не opt-out, он же режим pull вместо push. Все живут в пассивном режиме push.
Мозг сопротивляется-- включает специальное защитное состояние сознания.

Защитный контур
Включается поверхностное, вязкое восприятие. Своего рода дофаминовый транс, пелена неприятия, пропускания мимо глаз и ушей с имитацией восприятия -- требующая от события или контакта достаточного уровня тревожности, чтобы прорваться сквозь пелену. Как быстрое (как бы) чтение книги с пропуском почти всего содержания и выхватыванием как бы важных фраз.
Известно, что в стрессовой ситуации у большинства людей возникает <<туннельный эффект>> восприятия, отключение органов чувств, а часто и мышления, попадания в вязкий кисель мышления.
Например, во время интенсивного стрелкового боя боец практически не слышит громких звуков стрельбы, часто почти не дышит, испытывая кислородное голодание. Те же эффекты обрезания каналов восприятия у спортсменов на соревнованиях, у хирурга на операции. Но профессионалов учат выходить из ситуативного ступора, возвращать активную осознанность, а публику нет.
Такое сумеречное, спутанное состояние сознания и не может не включиться, если каждые 10-20 секунд приходит внешнее прерывание мыслительного процесса от тележеньки и вацапа. Никаких длинных мыслей и рассуждений, устойчивых намерений, только навык быстро и автоматически переключаться на очередной раздражитель. И отделываться от него по возможности быстро и бездумно. Например, отправить приставалам код с Госуслуг, чтоб отстали и не отвлекали от видосика.

Естественно, хохляцкий мошенник как раз и создаёт достаточный уровень тревожности раздражителя, чтобы пробить защиту невнимательности и захватить рассеянное внимание.

При этом у жертвы не включается осознанность и рациональность, она просто переключается на очередную входящую дофаминовую проблемку и начинает её решать -- с помощью <<следователя прокуратуры>>.

Мне как-то журналист Политковский (бывший муж той самой Политковской) давным-давно на дне рождения давно покойного уже родственника, рассказывал, что практически всегда происходит с тележурналистами, медийными животными, ведущими прямые эфиры. У них, -- сказал он, -- за год-два кончаются все собственные мысли, шутки, анекдоты, воспоминания, мозг выжигает прямым эфиром.
В результате такой ведущий сидит в эфире с совершенно пустым мозгом, со списком вопросов от редактора и реагируя просто механически на ключевые слова в речи интервьюируемого собеседника. Ну, и улыбаясь и оживляясь тоже механически, профессионально.
Та же история -- с ежедневной или даже еженедельной колонкой: свои мысли в итоге кончаются. У большинства блогеров, очевидно, происходит то же самое.
Наш современник со смартфоном попадает в похожее состояние: пустой мозг, механически и поверхностно реагирующий на внешние воздействия, на слова и образы. Такие рефлекторные, поверхностные реакции легко предсказать, включить в сценарий, запрограммировать.

Мне это напоминает рассказ <<Гипноглиф>> про инопланетную цивилизацию, развившую тактильное искусство до совершенства и изготавливавшую специальные деревянные безделушки-ловушки, которые были настолько приятны на ощупь, что их невозможно было перестать поглаживать, и таким образом вводившие жертву в состояние гипноза.
Мы не можем перестать поглаживать смартфон, а он вводит в гипноз.
Короче
Цифровые платформы -- соцсети, маркетплейсы, рекомендательные системы, интернет-медии всех видов и так находятся по отношению к нам в положении сильной стороны: они знают о нас всё, а мы о них практически ничего. Это классический дисбаланс осведомлённости на рынке, приводящий к <<ухудшающему выбору>> и перекосу выгоды в сторону сильной, осведомлённой стороны.

Но ситуация для них ещё лучше: большинство пользователей смартфона и цифровых сервисов просто пребывает в лёгком гипнотическом трансе. Смартфон -- это средство, превращающее человека в подготовленного к внушению пациента Кашпировского. За собственные деньги пациента.

Чтобы ввести в транс петуха, достаточно, говорят, просто завести ему голову назад. Чтобы ввести в транс тебя, современник -- достаточно дать тебе плоскую коробочку с закруглёнными уголками, переливающуюся цветным свечением. Дальше глаза сфокусируются, шея зафиксируется, воротниковые мышцы застынут. Мысли остановятся.

Мы ехали на дачу на микроавтобусе. Одна дочка сзади сказала другой <<Ну убери уже дебильник>>. Жена восхитилась: <<Вот, вот это слово! Точно! Спасибо, дочка! Теперь я знаю, как эту штуку называть!>>
Когда у вас рука рефлекторно тянется к смартфону -- смотрите на него с ужасом: <<эта штука хочет меня загипнотизировать и высосать>>. Эта ядовитая гадина лежит и ждёт, чтобы впиться в мозг.