В Санкт-Петербурге прошел Финансовый конгресс Банка России. В рамках сессии «ИИ в банковском риск-менеджменте: источник антихрупкости или новый класс уязвимостей» выступила глава компании InfoWatch Наталья Ивановна КАСПЕРСКАЯ.
Про подход к внедрению
ИИ сейчас на пике хайпа, а принимать решения на пике хайпа – неправильно. Технология переоценена ровно потому, что она модна. Но цена ошибки в банковском риск-менеджменте чрезвычайно высока. Как отличить задачу, которую ИИ закроет надежно, от той, где опираться на него опасно? Я бы подошла к этому вопросу не с точки зрения выбора конкретной области для применения ИИ, а с точки зрения подхода к самому процессу.
Первое – в финансовой организации нужен центр компетенций по ИИ, который агрегирует знания. Туда можно прийти, задать вопросы, обменяться опытом.
Второе – надо выявить задачи, которые можно делегировать ИИ. Мы в InfoWatch проанализировали их и выбрали три: анализ уязвимостей (это работает очень эффективно), помощь в тестировании (резко ускоряет) и отдельные блоки программирования. В банковском секторе задачи будут другими, но подход тот же: понять, что подходит, а на что стоит наложить запрет.
Про риски и контроль
Генеративный ИИ – вероятностная технология, он может допускать ошибки. Там, где они недопустимы, – должен быть установлен строгий запрет на использование генеративных ИИ-моделей.
Эффективность ИИ не всегда столь высока, как нам говорят. Для оценки продуктивности ИИ-моделей нужно постоянно мониторить процесс: проводить регулярный анализ, отмечать контрольные точки по эффективности.
Экспериментировать с новыми технологиями нужно, но следует постоянно сверять результат – получаем ли мы то, что хотим?
Про теневой ИИ
Во многих организациях ИИ растет как бурьян – снизу. Люди в руководстве об этом даже не догадываются. Например, год назад мы сделали опрос разработчиков – выяснилось, что у нас используется около 30 разных ИИ-моделей.
Ситуация лучше поддается контролю, когда организация сама предоставляет сотрудникам доступ к ИИ-модели. При этом нельзя исключить ситуацию, что сотрудники не будут работать с этими ИИ-моделями. Контроль такого «теневого ИИ» – отдельная задача. В банковском секторе она критически важна.
Про регулирование ИИ и будущее в финсекторе
Я категорически против того, чтобы на государственном уровне вводить регулирование ИИ как технологии, потому что регулировать надо не технологию, а ее использование. Более того, ИИ очень быстро развивается, поэтому регулировать его как технологию сложно. Проблемы начинаются уже на этапе терминологии. Например, на днях в России приняли закон, устанавливающий ключевые правила работы ИИ-технологий в стране. Даже к определениям из этого закона есть большие вопросы. А разработка точной терминологии – очень длительный и основополагающий процесс.
Поэтому ИИ, как технологию, надо оставить в покое. Повторю – регулироваться должно влияние ИИ на людей. Например, на мой взгляд, стоит запретить создание законопроектов с помощью ИИ – специалисты всё чаще замечают характерный ИИ-почерк, ошибки, которые совершает ИИ при законотворчестве и которые могут стоит простым людям очень дорого.
Создание регулятивной базы для ИИ – сложная задача. Часто ссылаются на Евросоюз, который ввел регулирование ИИ со строгими правилами, вступившими в силу в 2025 году. Якобы из-за этой регуляторики ИИ в Европе не развивается. Но это не так – ИИ не развивается в ЕС очень давно, у них вообще большие проблемы с софтом, с разработкой и поддержкой. Этим регулированием они лишь прикрыли собственные пробелы.
Про стоимость и окупаемость ИИ
ИИ – это очень дорого в разработке, обучении и т.д., и технология до сих пор не окупается. Я не исключаю, что через какое-то время разработчики западных моделей либо поднимут цены в несколько раз, либо вообще закроют к ним доступ. Они и сейчас российских пользователей периодически ограничивают.
ИИ как технология дает большие возможности, но ждать от нее чудес неправильно. С ней нужно работать как с любой другой и подходить прагматично, постоянно контролировать работу ИИ-моделей, оценивать результаты, сверяя их с тем, что мы хотим получить. Если результат не отвечает запросу – надо менять подход. ИИ должен работать на человека, а не человек – на ИИ.
Н.И. КАСПЕРСКАЯ,
президент группы компаний InfoWatch,
председатель правления ассоциации «Отечественный софт»,
лауреат премии «Слово к народу»
