Банк России призывает банки при использования искусственного интеллекта для выполнения операций в критически важных процессах прибегать к помощи человека, сообщили в пресс-службе регулятора. В середине июня ЦБ выпустил доклад, в котором предупредил банки об угрозах ИИ и дал рекомендации по технике безопасности
ЦБ рекомендует банкам при использовании искусственного интеллекта (ИИ) в некоторых операциях подтверждать такие операции сотрудником. Об этом «Эксперту» сообщили в пресс-службе регулятора.
Сейчас Банк России придерживается «мягкого регулирования» в вопросе требований по управлению рисками ИИ для финансовых организаций — через рекомендации.
«При использования ИИ для выполнения операций в критически важных процессах (например, при проведении платежей), когда риски информационной безопасности оцениваются как высокие, мы рекомендуем финансовой организации подтверждать такие операции сотрудником», — подчеркнули в ЦБ.
Каждая финансовая организация может создать собственные модели угроз и оценивать их актуальность как при доработке уже действующих систем ИИ, так и при создании новых, добавили там. По данным ЦБ, сейчас внедряющие такую технологию банки используют в своей деятельности практики моделирования угроз для ИИ, а также реализуют различные механизмы защиты.
16 июня Банк России выпустил методические рекомендации по безопасному использованию ИИ в финансовой сфере. В нем регулятор указал на риски систем, работающих на основе ИИ: галлюцинации, дрейф данных, внедрение вредоносных запросов извне и др.
Эти уязвимости могут спровоцировать и иные риски по цепочке, предупредили в ЦБ. В связи с этим, регулятор призвал участников финрынка разработать модель угроз, которая будет учитывать возможные манипуляции поведением ИИ, риск хищения и искажения данных, обучающих нейросеть, а также угрозу ее подмены.
Некоторые российские банки и другие финансовые организации уже активно применяют нейросети. Так, глава Сбера Герман Греф заявил, что в этом году внедрение ИИ позволило сократить 65% менеджеров, которые курировали работу отделений Сбербанка в регионах. В 2025 г. он говорил, что «Сбер» на 20% сократит штат центрального аппарата по рекомендации ИИ.
