• Sam Altman i Dario Amodei ostrzegli Radę Bezpieczeństwa ONZ przed zagrożeniami związanymi z szybkim rozwojem AI.
  • Szef Anthropic wskazał na dwa główne ryzyka: wykorzystanie AI m.in. do tworzenia broni biologicznej oraz możliwość utraty kontroli nad zaawansowanymi modelami.
  • Firmy technologiczne chcą międzynarodowych standardów bezpieczeństwa, testowania modeli i wymiany informacji o nowych zagrożeniach.

AI trafiła na Radę Bezpieczeństwa ONZ

Rada Bezpieczeństwa ONZ poświęciła 23 września specjalne posiedzenie sztucznej inteligencji i jej wpływowi na bezpieczeństwo międzynarodowe. Było to spotkanie na wysokim szczeblu zorganizowane podczas 81. sesji Zgromadzenia Ogólnego ONZ. Udział wzięli m.in. Sam Altman z OpenAI, Dario Amodei z Anthropic oraz Yoshua Bengio, jeden z najbardziej znanych badaczy sztucznej inteligencji.

Altman wskazywał, że dalszy rozwój technologii może prowadzić do dwóch zupełnie różnych scenariuszy.

„Mamy przed sobą wybór. AI może być czymś na kształt nowego renesansu kreatywności i odkryć albo nowej rewolucji przemysłowej pełnej wstrząsów i chaosu” – powiedział Sam Altman, prezes OpenAI, podczas posiedzenia Rady Bezpieczeństwa ONZ.

Szef OpenAI podkreślił jednocześnie, że kluczowe decyzje dotyczące rozwoju technologii nie powinny zapadać wyłącznie w największych laboratoriach technologicznych. Jego zdaniem powinny być współkształtowane przez demokratyczne instytucje i rządy odpowiadające przed obywatelami.

Altman wskazał też jedno z najpoważniejszych zagrożeń: zaawansowane systemy mogłyby rozwijać się tak szybko, że człowiek przestałby nadążać za ich działaniem i utracił możliwość skutecznej interwencji.

Anthropic: źle zarządzana AI może zagrozić ludzkości

Jeszcze mocniejszego języka użył Dario Amodei. Prezes Anthropic wskazał przed Radą Bezpieczeństwa dwie główne kategorie zagrożeń.

Pierwszą jest celowe wykorzystanie modeli przez ludzi, np. przez terrorystów próbujących zdobyć wiedzę potrzebną do skonstruowania broni biologicznej. Drugą jest sytuacja, w której możliwości AI zaczną rozwijać się szybciej niż zdolność jej twórców do kontrolowania systemów.

„Jeśli będziemy źle nią zarządzać, uważam nawet, że AI może stanowić zagrożenie dla ludzkości jako całości” – powiedział Amodei, prezes Anthropic.

Nie oznacza to, że szef Anthropic przewiduje konkretną datę katastrofy lub twierdzi, że utrata kontroli jest przesądzona. Jest to ostrzeżenie dotyczące jednego z możliwych scenariuszy rozwoju coraz bardziej autonomicznych systemów.

Amodei ocenił, że przy utrzymaniu obecnego tempa postępu już w perspektywie jednego lub dwóch lat mogą powstać systemy porównywane przez niego do „kraju geniuszy w centrum danych”, czyli ogromnej liczby cyfrowych agentów zdolnych wykonywać zadania na bardzo wysokim poziomie.

AI już pokazała zachowania trudne do przewidzenia

Obawy prezentowane przed ONZ pojawiają się po serii badań i incydentów związanych z coraz bardziej autonomicznym działaniem modeli.

Niezależny Międzynarodowy Panel Naukowy ONZ ds. AI opublikował we wrześniu analizę dotyczącą agentów AI, niewłaściwego dopasowania ich celów do intencji człowieka i ryzyka utraty kontroli. Panel opisał przypadki z okresu od maja do lipca 2026 roku, gdy testowane systemy m.in. omijały ograniczenia sieciowe, komunikowały się pomiędzy zadaniami, które miały pozostać oddzielone, oszukiwały mechanizmy oceny i próbowały ukryć swoje działania.

Panel zaznaczył jednocześnie, że opisane zdarzenia nie pozwalają określić prawdopodobieństwa ani terminu ewentualnej poważnej utraty kontroli nad AI. Są natomiast traktowane jako sygnał, że wraz ze wzrostem możliwości modeli mogą pojawiać się nowe i trudniejsze do przewidzenia zachowania.

Yoshua Bengio zwrócił podczas posiedzenia uwagę, że problem nie kończy się na granicach jednego państwa.

Według niego zagrożenie związane z systemami działającymi poza kontrolą człowieka ma charakter międzynarodowy i nie może zostać rozwiązane samodzielnie przez pojedynczy kraj.

Firmy AI chcą wspólnych zasad bezpieczeństwa

Amodei zaproponował kilka konkretnych obszarów międzynarodowej współpracy. Wśród nich znalazł się zakaz wykorzystywania AI do opracowywania broni biologicznej, wspólne standardy testowania najbardziej zaawansowanych modeli, systemy ich niezależnej oceny oraz mechanizm szybkiego informowania państw o zagrożeniach mogących mieć konsekwencje dla globalnego bezpieczeństwa.

Altman również przekonywał, że nie wszystkie decyzje mogą pozostać w rękach firm rozwijających AI. Jednocześnie przestrzegał przed popadaniem w skrajność i traktowaniem katastroficznego scenariusza jako jedynej możliwej przyszłości technologii.

Spór dotyczy więc nie tego, czy AI należy zatrzymać, ale jak szybko powinny powstać mechanizmy bezpieczeństwa zdolne nadążyć za jej rozwojem. ONZ wskazuje, że technologia jest już wykorzystywana w wielu obszarach, od edukacji po działania militarne, podczas gdy międzynarodowe zabezpieczenia pozostają znacznie mniej rozwinięte.

Dyskusja będzie nabierać znaczenia wraz ze wzrostem autonomii modeli. Zarówno OpenAI, jak i Anthropic przedstawiają AI jako technologię mogącą przyspieszyć rozwój nauki i gospodarki. Jednocześnie ich szefowie przyznają, że jej możliwości mogą osiągnąć poziom, przy którym bezpieczeństwo przestanie być wyłącznie problemem firm technologicznych, a stanie się kwestią międzynarodową.

Czytaj także:

Agent AI włamał się do rządowego portalu. Pierwszy taki przypadek na świecie

Spowolnienie już za kilka miesięcy? „To KPO rozpędza polską gospodarkę”

Liczba nielegalnych imigrantów wzrosła o 40 proc. w rok. „Wkraczamy w pełnoskalowy kryzys”