BSP устанавливает принципы управления для ответственного и этичного использования Управляемый ИИ банками

Финансовым учреждениям Филиппин следует разработать системы управления искусственным интеллектом (ИИ), отражающие масштаб и сложность применения этих передовых технологий в их деятельности — для управления потенциальными рисками и установления гарантий этичного использования, заявил Центральный банк Филиппин (BSP).

BSP посредством меморандума № M-2026-031 от 24 июня выпустил руководящий документ под названием «Принципы управления искусственным интеллектом в финансовых услугах», которым подконтрольные BSP финансовые учреждения (BSFI) могут руководствоваться при разработке собственной политики в области ИИ.

«По мере того как искусственный интеллект продолжает развиваться и интегрироваться в финансовый сектор, финансовые учреждения должны вводить эффективные средства контроля и защиты от сопутствующих рисков внедрения ИИ, таких как угрозы конфиденциальности данных, предвзятость, ведущая к несправедливым и дискриминационным практикам, а также злоупотребление технологиями, и других», — заявила заместитель управляющего BSP Лин И. Хавьер.

«Рекомендуется, чтобы финансовые учреждения официально разработали собственную систему управления ИИ, соразмерную природе, масштабу, сложности и существенности своих систем ИИ, а также общей операционной сложности и профилю риска учреждения, следуя принципам, изложенным в руководящем документе.»

Г-жа Хавьер отметила, что наличие таких средств контроля позволит учреждениям безопасно использовать ИИ и извлекать из него пользу. «В конечном счёте, этичное и ответственное использование ИИ способно укреплять доверие, повышать устойчивость и содействовать устойчивым инновациям в финансовой экосистеме.»

«Признавая значительный потенциал этих технологий, BSP подчёркивает важность соблюдения высочайших стандартов этики, прозрачности и подотчётности на протяжении всего жизненного цикла системы ИИ, особенно когда ИИ интегрируется в стратегические операции финансовых учреждений», — добавил BSP.

Руководящий документ определяет минимальные надзорные ожидания в отношении внедрения ИИ, однако BSP уточнил, что данные принципы носят необязательный характер и соблюдение является добровольным, поскольку регулятор предоставляет BSFI самостоятельно формулировать собственную политику управления ИИ и системы управления рисками.

Это связано с тем, что регулятор признаёт: финансовые учреждения находятся на разных стадиях зрелости в области ИИ, а значит, их риски различаются. Также отмечается, что системы управления ИИ могут помочь в решении операционных, информационно-технологических (ИТ), модельных, рыночно-поведенческих, репутационных, стратегических и правовых рисков, связанных с использованием ИИ.

Помимо BSFI, принципы распространяются также на поставщиков или провайдеров аутсорсинговых услуг, поддерживающих деятельность этих учреждений, связанную с ИИ, в рамках модели совместной ответственности.

Со своей стороны, существующая система управления ИТ-рисками BSP охватывает передовые технологии, уделяя особое внимание информационной безопасности, аутсорсингу и управлению проектами. Также планируется выпуск системы управления модельными рисками, направленной на обеспечение алгоритмической справедливости и управление модельными рисками на протяжении всего жизненного цикла модели с использованием соразмерного и риск-ориентированного подхода.

BSP заявил, что управление ИИ в финансовом секторе должно основываться на принципах STARS: устойчивость (sustainability), прозрачность (transparency), подотчётность (accountability), ответственность (responsibility) и безопасность (security).

Эти принципы должны учитываться на каждом этапе жизненного цикла системы ИИ: планирование, разработка, валидация, развёртывание и мониторинг.

В части устойчивости BSFI должны обеспечить, чтобы их решения на базе ИИ приносили «ощутимую» пользу всей финансовой, экологической и социальной экосистеме, указал центральный банк. Разработка этих систем ИИ должна быть направлена на минимизацию углеродного следа, оптимизацию энергоэффективности и должна быть «человекоориентированной».

BSP также добавил, что в части прозрачности соответствующая и необходимая информация должна быть доступна и адаптирована к уровню знаний и компетентности целевых пользователей или заинтересованных сторон. Принципы прозрачности должны распространяться и на сторонних провайдеров.

«Во избежание слепого доверия к рекомендациям системы ИИ пользователи должны быть способны ответить на вопросы о том, "как" был получен результат и "почему" была сделана та или иная рекомендация.»

Центральный банк указал, что BSFI должны располагать централизованным реестром систем ИИ, а пользователи должны  получать уведомления, когда результат работы ИИ используется в продукте или включён в процесс.

Также необходимо иметь документацию по процессу проектирования, процессу принятия решений, отслеживанию и устранению ошибок, а также по вариантам построения алгоритма и источникам данных для обеспечения проверяемости этих систем. BSFI должны также обеспечить наличие чётко определённых процедур снижения выявленных рисков, ошибок и неопределённостей.

«Регулярный анализ всех систем ИИ следует проводить для надлежащего мониторинга и оценки со стороны заинтересованных сторон.»

В части подотчётности BSP указал, что учреждения должны чётко распределять ответственность между руководством, разработчиками и всеми заинтересованными сторонами, подчёркивая важность участия человека в процессе принятия решений.

«Хотя системы ИИ предоставляют рекомендации, конечная ответственность за принятые решения лежит на людях. Результаты работы систем ИИ не должны подменять или умалять ответственность человека», — говорится в документе.

Контроль со стороны человека и надлежащее разграничение ролей и владения должны быть интегрированы на протяжении всего жизненного цикла системы ИИ, а лица, ответственные за разработку и развёртывание ИИ, должны обладать достаточным опытом и компетентностью, отметил центральный банк.

BSP также должен иметь возможность отслеживать, контролировать и проверять разработку и развёртывание алгоритма и технологии ИИ.

В части ответственности, социальной справедливости и этичного использования ИИ центральный банк указал, что система ИИ должна исключать несправедливые практики или потенциальный вред пользователям, учреждению и более широкой финансовой экосистеме. Это охватывает вопросы конфиденциальности данных и недопущение потенциальной предвзятости в отношении каких-либо демографических групп, особенно меньшинств или уязвимых групп, посредством надлежащей подготовки данных.

Также добавляется, что BSFI должны «обеспечить, чтобы главной целью системы ИИ было положительное влияние на благополучие человека и поддержка общего блага финансовой системы».

Наконец, в части безопасности BSFI должны располагать строгими средствами контроля кибербезопасности и качества данных, указал центральный банк. Они должны регулярно проводить риск-ориентированную оценку потенциальных уязвимостей в системах ИИ и располагать средствами снижения рисков, процедурами тестирования систем и реагирования на инциденты, охватывающими также их модели и системы ИИ.

Также добавляется, что им следует «регулярно отслеживать и оценивать качество данных и производительность моделей для раннего обнаружения аномалий (таких как предвзятость и галлюцинации).»

«Общая точность, надёжность и эффективность системы ИИ зависят от качества используемых наборов данных.»

Руководящие принципы ориентируют банки на формализованное управление ИИ с чёткими стандартами в области прозрачности, подотчётности, справедливости, безопасности и контроля со стороны человека, а не на стихийное управление ИИ, отметил старший научный сотрудник Филиппинского института исследований в области развития Джон Паоло Р. Ривера в сообщении в Viber.

«Меморандум своевременен, поскольку банки уже используют ИИ для кредитного скоринга, обнаружения мошенничества, обслуживания клиентов, соблюдения требований и управления рисками», — сказал он.

Более крупные банки уже располагают мерами защиты от модельных рисков, в области кибербезопасности, конфиденциальности данных и системами соблюдения требований, тогда как небольшим кредиторам, возможно, потребуется улучшить отдельные аспекты управления, такие как реестр ИИ, документация, независимая валидация, надзор за поставщиками и тестирование на предвзятость. — Aaron Michael C. Sy