14 апреля состоялся III Российский риск-форум, где представители финансовых институтов и ИТ-компаний обсудили ключевые вызовы в области управления рисками, с которыми сегодня сталкиваются организации.
В рамках деловой программы с докладом выступил Руководитель проектов EGAR и ИИ-амбассадор Олег Утеков. Он рассказал о рисках, возникающих при активном внедрении искусственного интеллекта без должной оценки последствий.
В своем выступлении Олег обратил внимание слушателей на интересный парадокс: компании внедряют ИИ, чтобы управлять рисками эффективнее, но почти никто всерьез не разбирается с рисками, которые создает сама нейросеть. Привычная формула, когда человек проверяет результаты работы ИИ, на практике часто сводится к автоматическому согласию со сгенерированный результатом. Такой подход создает лишь имитацию контроля и не гарантирует отсутствие ошибок.
В качестве решения Олег предложил адаптировать к работе с ИИ хорошо знакомую банкам модель трех линий защиты: от создания процессов с реальной ответственностью эксперта до внедрения независимого ИИ-аудитора, которым может стать отдельная модель, проверяющая выводы рабочей нейросети.
Предложенный подход вызвал значительный интерес участников форума и стал основой для активной дискуссии, в ходе которой были рассмотрены наиболее актуальные вопросы и практические аспекты применения ИИ в управлении рисками.
В рамках деловой программы с докладом выступил Руководитель проектов EGAR и ИИ-амбассадор Олег Утеков. Он рассказал о рисках, возникающих при активном внедрении искусственного интеллекта без должной оценки последствий.
В своем выступлении Олег обратил внимание слушателей на интересный парадокс: компании внедряют ИИ, чтобы управлять рисками эффективнее, но почти никто всерьез не разбирается с рисками, которые создает сама нейросеть. Привычная формула, когда человек проверяет результаты работы ИИ, на практике часто сводится к автоматическому согласию со сгенерированный результатом. Такой подход создает лишь имитацию контроля и не гарантирует отсутствие ошибок.
В качестве решения Олег предложил адаптировать к работе с ИИ хорошо знакомую банкам модель трех линий защиты: от создания процессов с реальной ответственностью эксперта до внедрения независимого ИИ-аудитора, которым может стать отдельная модель, проверяющая выводы рабочей нейросети.
Предложенный подход вызвал значительный интерес участников форума и стал основой для активной дискуссии, в ходе которой были рассмотрены наиболее актуальные вопросы и практические аспекты применения ИИ в управлении рисками.
