Wszyscy nawigują w czasie rzeczywistym w kwestii bezpieczeństwa AI — nawet Google

BitcoinWorld

Wszyscy Nawigują Bezpieczeństwo AI w Czasie Rzeczywistym — Nawet Google

W szczerej rozmowie za kulisami wydarzenia w Los Angeles, Francis de Souza, COO Google Cloud, przedstawił trzeźwą ocenę obecnego stanu bezpieczeństwa AI. Mówiąc wyważonym tonem profesora uniwersyteckiego, de Souza przyznał, że branża znajduje się w okresie przejściowym, zauważając, że „będzie okres przejściowy, a potem myślę, że dotrzemy do tego lepszego miejsca." Jego uwagi padają w czasie, gdy nawet sam Google zmaga się z lukami w bezpieczeństwie ujawnionymi przez własne produkty AI.

Podejście Platformowe do Bezpieczeństwa

Główne przesłanie de Souzy to coś, do czego specjaliści ds. bezpieczeństwa od lat namawiają kierownictwo firm, a czemu AI nadała pilności: bezpieczeństwo nie może być kwestią drugorzędną. „Gdy firmy wyruszają w tę podróż z AI, muszą przyjąć podejście platformowe" — powiedział. „Bezpieczeństwo nie jest czymś, co można dodać później, ani czymś, co można pozostawić pracownikom do samodzielnego zarządzania." Ostrzegł szczególnie przed „shadow AI" — pracownikami korzystającymi z konsumenckich narzędzi AI bez nadzoru organizacyjnego — i argumentował, że firmy muszą od samego początku wymagać od swoich platform bezpieczeństwa, zarządzania i możliwości audytu. „Nie ma czegoś takiego jak strategia AI bez strategii danych i strategii bezpieczeństwa. Muszą iść w parze" — dodał.

Rzeczywistość Multichmurowa i Rosnąca Powierzchnia Ataku

Zapytany, czy jego rady sprowadzają się do reklamy Google Cloud, de Souza odparł, podkreślając zaangażowanie Google w podejście multichmurowe. „Nawet jeśli wybiorą jedną chmurę, polegają na aplikacjach SaaS, a partnerzy biznesowi mogą korzystać z różnych chmur" — powiedział. „Ważne jest, aby firmy miały spójną postawę bezpieczeństwa w różnych chmurach i modelach." Podkreślił też, jak fundamentalnie zmieniło się środowisko zagrożeń. Średni czas między początkowym naruszeniem a przekazaniem do kolejnego etapu ataku skrócił się z ośmiu godzin do 22 sekund, zauważył, podczas gdy powierzchnia ataku rozszerzyła się poza tradycyjny obwód sieci. „Oprócz zwykłej infrastruktury masz teraz modele. Masz potoki danych używane do trenowania modeli. Masz agentów, masz prompty. Wszystko to wymaga ochrony."

Ukryte Niebezpieczeństwo Agentów AI

Jedno zagrożenie, na które zwrócił uwagę de Souza, a które często pozostaje niezauważone: agenci AI poruszający się po wewnętrznych systemach firmy mogą ujawnić zapomniane repozytoria danych. „Wiele organizacji ma stare serwery SharePoint [i kontrole dostępu], których naprawdę nie aktualizowały, ale to nie miało znaczenia, bo nikt tak naprawdę nie wiedział, gdzie się znajdują. Ale agenci przemierzający Twoje przedsiębiorstwo znajdą te zasoby danych i ujawnią zawarte w nich dane." Jego zalecane rozwiązanie to przeciwstawienie prędkości maszyny prędkości maszyny. „Obserwujemy teraz pojawienie się natywnej dla AI, w pełni agentycznej obrony, w której organizacje mogą uruchamiać agentów kierujących ich obroną" — powiedział. „Zamiast mieć obronę prowadzoną przez człowieka czy nawet człowieka w pętli, możesz teraz mieć ludzi nadzorujących w pełni agentyczną obronę." Podkreślił, że jest to kwestia na poziomie zarządu i zespołu kierowniczego, a nie tylko concern zespołu ds. bezpieczeństwa.

Własne Luki w Bezpieczeństwie Google

Choć rady de Souzy są trafne, najnowsze raporty ujawniają przepaść między tym, co Google Cloud zaleca, a tym, jak szybko się adaptuje. The Register udokumentował falę deweloperów Google Cloud dotkniętych rachunkami o pięciocyfrowych kwotach po nieautoryzowanych wywołaniach API do modeli Gemini — usług, z których wielu nigdy nie korzystało ani celowo nie włączało. Schemat: klucze API pierwotnie wdrożone dla Google Maps, umieszczone publicznie zgodnie z własnymi instrukcjami Google, po cichu uzyskały możliwość dostępu do Gemini po tym, jak Google rozszerzył ich zakres bez wyraźnego ujawnienia tej zmiany. Rod Danan, CEO platformy do przygotowań do rozmów kwalifikacyjnych Prentus, zgłosił rachunek w wysokości 10 138 dolarów w ciągu mniej więcej 30 minut po tym, jak atakujący wykorzystali jego skompromitowany klucz API. Isuru Fonseka, deweloper z Sydney, obudził się z opłatami w wysokości około 17 000 AUD, mimo że był przekonany, że ma limit wydatków w wysokości 250 dolarów. Google zwrócił pieniądze obu po tym, jak The Register opublikował swój początkowy raport, ale poinformował publikację, że nie ma planów zmiany swojej polityki automatycznego ulepszania poziomu, priorytetyzując zapobieganie przestojom usług ponad egzekwowanie preferencji budżetowych użytkowników.

23-Minutowe Okno Unieważnienia

Dodatkowo komplikując sprawę, firma bezpieczeństwa Aikido odkryła, że nawet deweloperzy, którzy zauważą skompromitowany klucz i natychmiast go usuną, mogą nie być bezpieczni. Atakujący mogą najwyraźniej nadal używać tego klucza przez okres do 23 minut, ponieważ unieważnienie przez Google propaguje się stopniowo w całej jego infrastrukturze. Badacz Aikido Joseph Leon powiedział The Register, że w tym oknie czasowym wskaźniki sukcesu są nieprzewidywalne — w niektórych minutach ponad 90% żądań nadal uwierzytelniało się — a atakujący mogą wykorzystać ten czas do eksfiltracji plików i buforowanych danych konwersacji z Gemini. Leon zauważył, że nowsze formaty poświadczeń Google nie mają tego samego problemu: poświadczenia API kont usług unieważniają się w około pięć sekund, a nowszy format kluczy z prefiksem AQ w Gemini zajmuje około minuty. „Oba działają w skali Google" — napisał w powiązanym artykule Aikido. „Oba sugerują, że jest to technicznie rozwiązywalne również dla kluczy Google API." Krótko mówiąc, 23-minutowe okno nie jest ograniczeniem inżynieryjnym, lecz kwestią priorytetów.

Wnioski

Rada de Souzy — że bezpieczeństwo musi być fundamentalne, a nie dodane na końcu — jest trafna i powinna być traktowana poważnie przez każdą organizację wdrażającą AI. Jednak ostatnie incydenty w samym Google Cloud podkreślają, że nawet platformy przepisujące najlepsze praktyki wciąż się adaptują. W miarę jak branża zmierza ku natywnym dla AI obronom i agentycznemu bezpieczeństwu, przepaść między zaleceniami a praktyką pozostaje krytyczną kwestią dla zarządów, kierownictwa i zespołów ds. bezpieczeństwa.

FAQ

P1: Czym jest „shadow AI" i dlaczego stanowi zagrożenie dla bezpieczeństwa?
Shadow AI odnosi się do pracowników korzystających z konsumenckich narzędzi AI bez nadzoru organizacyjnego. Stwarza to zagrożenia, ponieważ takie narzędzia mogą nie posiadać bezpieczeństwa, zarządzania ani możliwości audytu na poziomie korporacyjnym, potencjalnie narażając wrażliwe dane.

P2: Jak szybko atakujący mogą wykorzystać skompromitowany klucz API w Google Cloud?
Według najnowszych badań, nawet po usunięciu klucza atakujący mogą nadal go używać przez okres do 23 minut ze względu na stopniową propagację unieważnienia. Nowsze formaty poświadczeń Google unieważniają się znacznie szybciej — w ciągu sekund do minuty.

P3: Czym jest „agentyczna obrona" w bezpieczeństwie AI?
Agentyczna obrona wykorzystuje agentów napędzanych przez AI do automatycznego wykrywania zagrożeń i reagowania na nie z prędkością maszyny, przy czym ludzie nadzorują ten proces, zamiast być bezpośrednio w pętli. Podejście to zostało zaprojektowane, aby przeciwdziałać prędkości nowoczesnych ataków opartych na AI.

Ten post Wszyscy Nawigują Bezpieczeństwo AI w Czasie Rzeczywistym — Nawet Google pojawił się po raz pierwszy na BitcoinWorld.