BSP ustanawia zasady zarządzania odpowiedzialnym i etycznym wykorzystaniem AI w bankach

Filipińskie instytucje finansowe powinny opracować ramy zarządzania sztuczną inteligencją (AI), odzwierciedlające zakres i złożoność wykorzystania tych technologii wschodzących w swojej działalności, aby zarządzać potencjalnymi ryzykami i ustanowić zabezpieczenia dla etycznego użytkowania – poinformował Bangko Sentral ng Pilipinas (BSP).

BSP, za pośrednictwem Memorandum nr M-2026-031 z dnia 24 czerwca, wydał dokument wytycznych zatytułowany „Zasady zarządzania sztuczną inteligencją w usługach finansowych", który nadzorowane przez BSP instytucje finansowe (BSFI) mogą wykorzystać przy tworzeniu własnych polityk AI.

„W miarę jak sztuczna inteligencja nieustannie się rozwija i integruje z sektorem finansowym, instytucje finansowe muszą ustanowić skuteczne mechanizmy kontroli i zabezpieczenia przed towarzyszącymi ryzykami związanymi z wdrożeniem AI, takimi jak obawy dotyczące prywatności danych, stronniczość prowadząca do nieuczciwych i dyskryminacyjnych praktyk oraz nadużywanie technologii" – powiedziała wicegubernatora BSP Lyn I. Javier.

„Zaleca się, aby instytucje finansowe formalnie opracowały własne Ramy Zarządzania AI, proporcjonalne do charakteru, zakresu, skali, złożoności i istotności swoich systemów AI, a także ogólnej złożoności operacyjnej i profilu ryzyka instytucji, zgodnie z zasadami określonymi w dokumencie wytycznych."

Javier stwierdziła, że posiadanie tych mechanizmów kontroli zapewni instytucjom możliwość bezpiecznego korzystania z AI i czerpania z jej korzyści. „Ostatecznie etyczne i odpowiedzialne korzystanie z AI może budować zaufanie, wzmacniać odporność i promować zrównoważoną innowację w ekosystemie finansowym."

„Choć BSP dostrzega znaczący potencjał tych technologii, podkreśla znaczenie przestrzegania najwyższych standardów etyki, przejrzystości i odpowiedzialności w całym cyklu życia systemu AI, szczególnie gdy AI jest zintegrowana ze strategicznymi operacjami instytucji finansowych" – dodał BSP.

Dokument wytycznych określa minimalne oczekiwania nadzorcze dotyczące wdrożenia AI, jednak BSP zaznaczył, że zasady te są niewiążące, a ich przestrzeganie jest dobrowolne, ponieważ regulator wskazał, że to od BSFI zależy sformułowanie własnych polityk zarządzania AI i ram zarządzania ryzykiem.

Wynika to z faktu, że BSP uznaje, iż instytucje finansowe znajdują się na różnych etapach dojrzałości AI, co oznacza, że ich narażenie na ryzyko jest zróżnicowane. Dodano, że ramy zarządzania AI mogą pomóc w zarządzaniu ryzykiem operacyjnym, technologii informacyjnych (IT), modeli, postępowania rynkowego, reputacyjnym, strategicznym i prawnym związanym z wykorzystaniem AI.

Oprócz BSFI zasady obejmują również dostawców lub zewnętrznych usługodawców wspierających działania tych instytucji związane z AI w ramach modelu wspólnej odpowiedzialności.

Ze swojej strony istniejące ramy zarządzania ryzykiem IT BSP obejmują technologie wschodzące, skupiając się na bezpieczeństwie informacji, outsourcingu i zarządzaniu projektami. BSP opublikuje również ramy zarządzania ryzykiem modeli, które skupią się na uczciwości algorytmicznej i ryzykach modeli w całym cyklu życia modelu, stosując podejście proporcjonalne i oparte na ryzyku.

BSP stwierdził, że zarządzanie AI w sektorze finansowym powinno być oparte na zasadach STARS, które oznaczają zrównoważony rozwój (sustainability), przejrzystość (transparency), odpowiedzialność (accountability), odpowiedzialność społeczną (responsibility) i bezpieczeństwo (security).

Zasady te powinny być uwzględniane na każdym etapie cyklu życia systemu AI: planowania, opracowywania, walidacji, wdrażania i monitorowania.

W zakresie zrównoważonego rozwoju BSFI muszą zapewnić, że ich rozwiązania AI są „materialnie" korzystne dla całego ekosystemu finansowego, środowiskowego i społecznego – poinformował bank centralny. Rozwój tych systemów AI musi dążyć do minimalizacji śladów węglowych, wyboru efektywności energetycznejy i musi być „skoncentrowany na człowieku".

BSP dodał, że w zakresie przejrzystości odpowiednie i niezbędne informacje muszą być dostępne i dostosowane do wiedzy i doświadczenia zamierzonych użytkowników lub interesariuszy. Zasady przejrzystości muszą również dotyczyć zewnętrznych dostawców.

„Aby uniknąć ślepego polegania na rekomendacjach systemu AI, użytkownicy muszą być w stanie odpowiedzieć na pytania takie jak 'jak' wynik został uzyskany i 'dlaczego' dana rekomendacja została wydana."

Bank centralny stwierdził, że BSFI muszą posiadać scentralizowany rejestr systemów AI, a użytkownicy powinni  być informowani, gdy wynik AI jest wykorzystywany w produkcie lub jest uwzględniony w procesie.

Powinny również posiadać dokumentację dotyczącą procesu projektowania, procesu podejmowania decyzji, śledzenia i rozwiązywania błędów oraz opcji budowy algorytmów i źródeł danych, aby zapewnić audytowalność tych systemów. BSFI muszą również zapewnić, że zidentyfikowane ryzyka, błędy i niepewności mają wyraźnie określone procedury łagodzenia.

„Regularne przeglądy wszystkich systemów AI powinny być przeprowadzane w celu właściwego monitorowania i oceny interesariuszy."

W zakresie odpowiedzialności BSP stwierdził, że instytucje muszą jasno określić odpowiedzialność między kierownictwem, deweloperami i wszystkimi odpowiednimi interesariuszami, podkreślając znaczenie udziału człowieka w procesie.

„Choć systemy AI dostarczają rekomendacji, to ludzie są ostatecznie odpowiedzialni za podejmowane decyzje. Wynik systemów AI nie powinien zastępować ani umniejszać ludzkiej odpowiedzialności" – stwierdzono.

Nadzór ludzki i właściwy podział ról i własności powinny być zintegrowane w całym cyklu życia systemu AI, a osoby odpowiedzialne za opracowywanie i wdrażanie AI powinny posiadać wystarczające doświadczenie i kompetencje – powiedział bank centralny.

BSP powinien również mieć możliwość monitorowania, nadzorowania i przeglądu opracowywania i wdrażania algorytmów i technologii AI.

W zakresie odpowiedzialności społecznej i uczciwości społecznej lub etycznego wykorzystania AI bank centralny stwierdził, że system AI powinien unikać nieuczciwych praktyk lub potencjalnej szkody dla użytkowników, instytucji i szerszego ekosystemu finansowego. Obejmuje to obawy dotyczące prywatności danych i unikanie potencjalnych uprzedzeń wobec jakiejkolwiek grupy demograficznej, w szczególności wobec mniejszości lub grup wrażliwych, poprzez właściwe dane treningowe.

Dodano, że BSFI muszą „zapewnić, że głównym celem systemu AI jest pozytywny wkład w dobrostan jednostki i wspieranie większego dobra systemu finansowego."

Na koniec, w zakresie bezpieczeństwa, BSFI muszą posiadać rygorystyczne mechanizmy kontroli cyberbezpieczeństwa i jakości danych – powiedział bank centralny. Muszą przeprowadzać regularne oceny oparte na ryzyku pod kątem potencjalnych podatności w systemach AI oraz posiadać mechanizmy kontroli ograniczania ryzyka, testy systemów i procedury reagowania na incydenty, które obejmują również ich modele i systemy AI.

Dodano, że powinny „regularnie monitorować i oceniać jakość danych i wydajność modeli w celu wczesnego wykrywania anomalii (takich jak stronniczość i halucynacje)."

„Ogólna dokładność, niezawodność i skuteczność systemu AI zależy od jakości jego zbiorów danych."

Wytyczne skłaniają banki ku formalnemu zarządzaniu AI z wyraźnymi standardami dotyczącymi przejrzystości, odpowiedzialności, uczciwości, bezpieczeństwa i nadzoru ludzkiego, a nie tylko doraźnego zarządzania AI – powiedział starszy pracownik naukowy Filipińskiego Instytutu Studiów nad Rozwojem John Paolo R. Rivera w wiadomości przez Viber.

„Memorandum jest na czasie, ponieważ banki już korzystają z AI do oceny zdolności kredytowej, wykrywania oszustw, obsługi klienta, compliance i zarządzania ryzykiem" – powiedział.

Większe banki posiadają już środki przeciwko ryzykom modeli, cyberbezpieczeństwu, prywatności danych i systemom compliance, podczas gdy mniejsi kredytodawcy mogą potrzebować poprawy aspektów swojego zarządzania, takich jak rejestr AI, dokumentacja, niezależna walidacja, nadzór nad dostawcami i testowanie stronniczości. — Aaron Michael C. Sy