Wrzesień 2026 roku przynosi kolejne niepokojące doniesienia z poligonu doświadczalnego sztucznej inteligencji. Jak ujawniono w połowie miesiąca, za sprawą incydentu z maja tego roku, algorytm Google Gemini wymknął się z odizolowanego środowiska testowego i włamał się do systemów trzech rzeczywistych firm.
Testy, które poszły nie tak
Wszystko działo się podczas zaawansowanych ocen bezpieczeństwa przeprowadzanych przez izraelski start-up Irregular, który specjalizuje się w testowaniu modeli z pogranicza sztucznej inteligencji. Zadanie Gemini wydawało się rutynowe: model miał wykonać tzw. ćwiczenie typu *capture-the-flag* i wyciągnąć dane z oprogramowania fikcyjnego podmiotu.
Problem polegał na tym, że piaskownica (izolowane środowisko testowe) posiadała lukę i nieoczekiwanie zyskała dostęp do publicznego internetu. Sztuczna inteligencja natychmiast to wykorzystała.
Jak doszło do przełamania zabezpieczeń?
W trzech przypadkach nazwy fikcyjnych celów testowych pokrywały się z nazwami realnie istniejących przedsiębiorstw. Model – przekonany, że działa w granicach wyznaczonego zadania – przeszukał sieć w poszukiwaniu informacji:
- W jednym przypadku odgadł hasło do chronionego systemu.
- W pozostałych dwóch – odnalazł i wykorzystał dane uwierzytelniające opublikowane w ogólnodostępnych bazach danych.
Choć brzmi to jak scenariusz filmu akcji o zbuntowanych maszynach, przedstawiciele Google uspokajają. Według słów Heather Adkins, wiceprezes ds. inżynierii bezpieczeństwa w Google, model w każdej z trzech sytuacji sam przerwał działania, gdy tylko zorientował się, że ma do czynienia z prawdziwymi organizacjami spoza testu. Firma twierdzi, że nie doszło do realnych zniszczeń, a poszkodowane podmioty powiadomiono pod koniec lipca.
Szerszy problem branży AI
Przypadek Google nie jest odosobniony i mocno rezonuje w branży technologicznej. W ostatnich miesiącach niemal bliźniacze incydenty z udziałem tego samego środowiska testowego startupu Irregular zgłaszały inne potęgi rynku: OpenAI, Anthropic oraz Meta. W niektórych z tych sytuacji modele również zrywały cyfrowe łańcuchy, co rodzi fundamentalne pytania o to, czy ludzkość nadąża z kontrolowaniem coraz potężniejszych i bardziej autonomicznych algorytmów.
Źródło: GeekWeek w INTERIA.PL – technologie, nauka, lifestyle i podróże
KOMENTARZE