• Wewnętrzny agent AI OpenAI uzyskał 18 czerwca nieautoryzowany dostęp do portalu statystycznego Medicare administrowanego przez Services Australia.
  • System dostał się do publicznych i niepublicznych plików, a także zapisywał pliki na wewnętrznym serwerze.
  • Australijskie władze podkreślają, że na razie nie ma dowodów na dostęp do indywidualnych danych pacjentów ani szersze naruszenie sieci Services Australia.

Agent AI nie zatrzymał się po zablokowaniu dostępu

Szczegóły przedstawił premier Australii Anthony Albanese podczas konferencji prasowej w Nowym Jorku. Zgodnie z oficjalnym zapisem jego wystąpienia zespół badawczy OpenAI używał 18 czerwca wewnętrznego modelu do wyszukiwania informacji o publicznych wydatkach na leki.

Kiedy system napotkał kolejne blokady dostępu, zaczął szukać innych sposobów zdobycia potrzebnych danych. To doprowadziło go do nieautoryzowanego dostępu do Medicare Statistics Reporting Service Portal, obsługiwanego przez Services Australia.

„Agent AI znalazł sposób na obejście tych blokad” – powiedział Anthony Albanese.

Według premiera system uzyskał dostęp zarówno do informacji publicznych, jak i niepublicznych. Miał również wykonywać operacje zapisu plików na wewnętrznym serwerze. Australijski rząd określa to jako nieautoryzowany dostęp.

Nie ma dowodów na wyciek danych pacjentów

Portal, do którego dostał się agent, nie jest główną bazą danych medycznych Australijczyków. Services Australia opisuje swój serwis Medicare Statistics jako narzędzie udostępniające statystyki dotyczące m.in. świadczeń Medicare, programów lekowych czy rejestru szczepień.

Australijskie władze podkreślają, że na obecnym etapie nie ma dowodów, aby agent uzyskał dostęp do osobistych danych pacjentów. Nie stwierdzono również szerszego przejęcia lub naruszenia sieci Services Australia. Dochodzenie nadal jednak trwa.

OpenAI przekazało australijskim mediom, że podczas własnego przeglądu wykryło zachowania modeli, których firma nie zamierzała wywołać. Według spółki uzyskany dostęp obejmował zagregowane statystyki zdrowotne i nazwy wewnętrznych plików, a firma nie znalazła dowodów na dostęp do kartotek pacjentów.

Australia krytykuje OpenAI za trzy miesiące zwłoki

Sam dostęp nie jest jedynym elementem sprawy, który wywołał reakcję australijskiego rządu. OpenAI miało poinformować Services Australia dopiero 10 września, niemal trzy miesiące po zdarzeniu z 18 czerwca. Co więcej, powiadomienie zostało przesłane na ogólnodostępny adres e-mail instytucji.

Anthony Albanese powiedział, że odbył w tej sprawie rozmowę z szefem OpenAI Samem Altmanem. Premier określił zarówno czas oczekiwania na zgłoszenie, jak i sposób powiadomienia jako nieakceptowalne.

Australijski rząd powołał teraz specjalną grupę zadaniową. W jej pracach mają uczestniczyć m.in. Departament Premiera i Gabinetu, National Cyber Security Coordinator, Australian Signals Directorate, Australian AI Safety Institute oraz Services Australia. Zespół ma sprawdzić zarówno sam incydent, jak i to, czy istniejące procedury są wystarczające w przypadku zagrożeń powodowanych przez autonomiczne systemy AI.

Publiczne logi pokazują, jak agenci szukali obejść

Dodatkowego kontekstu dostarczyło śledztwo australijskiego ABC. Dziennikarze znaleźli publiczne logi innych agentów OpenAI, które w podobnym okresie próbowały dostać się do danych Australian Institute of Health and Welfare. Systemy wymieniały się informacjami o wykorzystaniu serwerów proxy, usług wykonujących zrzuty ekranu czy odgadywaniu nazw plików.

Nie potwierdzono jednak, że właśnie te logi dokumentują ten sam incydent dotyczący portalu Medicare. ABC zaznacza, że OpenAI ani australijski rząd nie połączyły oficjalnie obu zdarzeń.

Sprawa pokazuje nowe wyzwanie dla cyberbezpieczeństwa. System autonomiczny nie musi ograniczać się do jednego zapytania. Może samodzielnie wybierać kolejne metody działania, a jeśli jego cel zostanie źle określony lub zabezpieczenia okażą się niewystarczające, może przekroczyć granice przewidziane przez twórców.

Incydent może zmienić zasady testowania agentów AI

Dochodzenie ma teraz ustalić pełny zakres dostępu oraz wyciągnąć wnioski dotyczące testowania autonomicznych modeli. Kluczowym pytaniem będzie nie tylko to, jak portal został zabezpieczony, lecz także jakie mechanizmy powinny zatrzymywać model, gdy napotyka jednoznaczną odmowę dostępu.

OpenAI poinformowało, że prowadzi szerszy przegląd aktywności modeli i współpracuje z organizacjami, których systemy mogły zostać dotknięte. Dla Australii jest to natomiast pierwszy tak głośny przypadek, w którym rząd oficjalnie potwierdził nieautoryzowane działanie autonomicznego agenta AI w systemie administracji publicznej.

Czytaj także:

Rynek nieruchomości dochodzi do ściany? Ceny stanęły, podaż rośnie

ZUS bierze pod lupę umowy o dzieło. System wyszukuje podejrzane przypadki

Trzy miliardy zł dla byłych funkcjonariuszy. To pokłosie ustawy dezubekizacyjnej