Жертвы техноварваров: ИИ позволяет банкам снимать с себя ответственность Поделиться
Необоснованные блокировки счетов граждан со стороны банков в последнее время превратились в серьезную проблему отечественного финансового сектора. ЦБ пришлось «разруливать» ситуации, когда клиентам кредитных организаций блокировали счета без объяснения, заявила на днях Эльвира Набиуллина.
тестовый баннер под заглавное изображение
Проблема, поднятая главой регулятора, находится на стыке технических решений и их социально-финансовых последствий. Решения исходят от банков, не несущих за это фактически никакой ответственности, а страдают простые люди, которые весьма посредственно защищены от бездушных алгоритмов блокировок.
«Борясь с мошенничеством, мы где-то перегнули палку, что называется», — признала Набиуллина.
Произнеся слово «мы», председатель ЦБ дала понять, что её ведомство разделяет ответственность за происходящее со всеми элементами банковского сообщества. Банкам поступили указания от регулятора усилить борьбу с дроп-схемами (случаями, когда граждан вовлекают в операции по обналичиванию или выводу преступных средств), те взяли под козырек и стали выполнять. Ключевой вопрос – как? По словам Эльвиры Набиуллиной, хотя «жалобы на мошенничество серьезно упали, выросли жалобы на необоснованную блокировку счетов».
26 августа Банк России обязал банки раскрывать клиенту причины блокировки карт и приостановления операций по счету (после чего, как заметила глава ЦБ, «появились первые признаки улучшения»). Эти жесткие меры принимаются по трем основаниям: при подозрении вывода средств мошенниками, отмывании денег и нарушении налогового законодательства. Как пояснили в Росфинмониторинге, кредитные структуры замораживают счета клиентов за «нетипичное поведение». В эту категорию входят слишком частые переводы средств или операции на суммы, которые не соответствуют официальному доходу человека.
По данным МВД, за январь-июль 2025 года ущерб от IT-мошенничества увеличился в целом по стране на 16% и составил почти 120 млрд рублей. В то же время, согласно статистике ЦБ, по итогам девяти месяцев года число жалоб на банки со стороны физлиц выросло на 21% год к году и составило 170,5 тысячи. В основном граждане сообщали о проблемах, которые у них возникли из-за блокировок счетов, карт, дистанционного банковского обслуживания.
Эксперты в этой связи указывают на слишком агрессивную, фактически параноидальную политику безопасности банков: она ведет к росту ошибочных положительных срабатываний систем защиты. При этом человеку абсолютно непонятно, на каком основании за безобидную, с его точки зрения, операцию блокируется счет. Фото: president-sovet.ru
— Речь идет о самодеятельности крупных банков, — рассуждает в беседе с «МК» член СПЧ, известный предприниматель Игорь Ашманов. – Получив от ЦБ руководящие указания, они радостно включили самопальный искусственный интеллект. В России его внедрение сводится в основном к скачиванию западных разработок и какой-то их донастройке. Да, у нас есть пара «крутых» разработчиков соответствующего софта, но в реальности, если вы делаете запрос, зачастую выявляется иностранная подложка. Например, после ввода в строку поиска слова «ветеран» ИИ нарисует вам человека с американской винтовкой М-16 в руках. И дело не только, скажем помягче, в когнитивной скромности тех, кто выдает подобные продукты. Там в банках вся цепочка – от руководства до низовых исполнителей – руководствуется принципом «отвяжись!».
ЦБ дал им команду усилить работу по борьбе с мошенниками, в частности, лучше распознавать и чаще блокировать подозрительные операции. Но это – указания общего порядка, без технической конкретики. Реальные критерии мошеннических транзакций зарождаются в головах IT-директора или сотрудников, отвечающих за ИИ. Эти люди не склонны заморачиваться разного рода человеческими «мелочами», они мыслят по-крупному.
Основное свойство программистов в следующем: это техноварвары, социопаты, бесконечно далекие от гуманитарных знаний, психологии, экономики, социологии и одновременно убежденные в собственном всемогуществе. Когда ты создаешь программу для компьютера и тот её послушно выполняет, возникает чувство, что ты полубог.
— То есть ни эти технари, ни их прямое начальство вообще не задумываются о последствиях своих действий для клиентов банков?
— Программист придумал некое правило, в соответствие с которым такая-то транзакция признается подозрительной. А то, что в конкретных жизненных обстоятельствах это правило может не работать, в голову ему не придет. Зачем ему это, когда нет никакой ответственности за конечный результат? Алгоритм, заложенный в искусственный интеллект ещё на входе, претерпевает непонятно какие изменения в этой большой лингвистической модели. Автор никогда не узнает, что его детище шарахнуло в итоге по массе людей, которые попросили банк разблокировать счета. Ответ от службы клиентской поддержки стандартный: «Мы не можем, так решил ИИ, нам запрещено отменять его решения, идите в отделение с паспортом». И никто программиста не накажет за то, что в каком-нибудь областном центре пять тысяч человек на два дня лишились доступа к своим деньгам, поскольку не могли добраться до отделения банка в 50 километров от их жилища.
Надо четко понимать: искусственный интеллект не столько служит целям автоматизации, сколько способствует снятию ответственности. Реальная работа подменятся её имитацией с помощью тупого ИИ. Поток жалоб в ЦБ идет на конкретные банки, и Набиуллина вынуждена «вправлять» им мозги публично. О людях она действительно беспокоится (это хорошо видно по её выступлениям и действиям), пытаясь ограничить произвол кредитных организаций по внедрению безответственного ИИ низкого качества.
— И какой же выход из всей этой ситуации, которая пока выглядит тупиковой?
— От банков пока не слышно заявлений, что они знают о проблеме, и что решают её. Напрашивается вариант с созданием некой централизованной системы под контролем государства, которая будет не допускать необоснованные блокировки. Но кто этим займется? Лично я таких высокоинтеллектуальных людей не знаю. Кроме того, само существование такой системы сопряжено с бешеными рисками утечки персональных данных. Возможно, разрешить ситуацию помогла бы более высокая степень публичности.
То есть, если бы ЦБ открыто предъявил претензии к топ-менеджменту банков, начал их каким-то образом наказывать за эти вещи. Социальные проблемы априори преодолеваются не с помощью ИИ и прочих технологических новшеств (это иллюзия программистов и крупных банкиров), а путем повышения ответственности и, кроме того, какими-то судебными процедурами, штрафами, повышением налогов.
Искусственный интеллект будет не только создавать почву для разного рода ошибок, но и позволять людям в этих цепочках обслуживания населения снимать с себя ответственность. Речь о его принципиальном, основном свойстве. Это классика применения ИИ: облегчаем себе жизнь с помощью «технологий», а граждане пусть общаются с роботом – ничего, потерпят. Сам я несколько раз попадал в подобный переплет, например, при попытке снять несколько десятков тысяч рублей в банкомате моего же банка вдали от Москвы мне заблокировали карту. Персональный менеджер не помогла, поскольку ей было запрещено, и пришлось через пару дней прийти уже в столице ногами в отделение.