Krok od międzynarodowej eskalacji
Wiosną tego roku amerykańskie siły zbrojne znalazły się zaledwie o krok od przeprowadzenia zbrojnego ataku na chiński statek handlowy na Bliskim Wschodzie. Jak poinformowała stacja CNN, powołując się na cztery niezależne źródła zaznajomione ze sprawą, cała operacja została wstrzymana w ostatniej chwili. Powód? Kluczowy dokument wywiadowczy, który wywołał alarm, okazał się w pełni efektem niekontrolowanej halucynacji sztucznej inteligencji.
Do groźnego incydentu doszło w wyjątkowo napiętym momencie geopolitycznym – w trakcie trwającego konfliktu z Iranem. W strukturach amerykańskiego wojska zaczął krążyć raport wskazujący, że jednostka pływająca pod chińską flagą transportuje tajne komponenty powiązane z programem broni jądrowej. Informacja natychmiast uruchomiła procedury kryzysowe.
Uzbrojeni żołnierze i samoloty w powietrzu
Reakcja dowództwa była błyskawiczna. Według relacji informatorów CNN, uzbrojeni żołnierze oddziałów specjalnych USA przygotowywali się do abordażu i wejścia na pokład podejrzanego statku. W tym samym czasie w powietrzu patrolowały lub wspierały operację wojskowe samoloty.
Katastrofę udało się zapobiec w ułamku sekundy – tuż przed rozpoczęciem faktycznych działań zaczepnych. Urzędnicy postanowili dokładniej zweryfikować źródła raportu przygotowanego przez analityka z Dowództwa Operacji Specjalnych. Okazało się, że dokument powstał przy udziale narzędzia opartego na sztucznej inteligencji.
Jak zadziałała cyfrowa halucynacja?
Kulisy powstania fałszywego raportu pokazują, jak kruche bywają współczesne systemy analityczne w wojskowości. Analityk wywiadu zwrócił się do chatbota z zapytaniem dotyczącym manifestu ładunkowego statku, bazując na danych napływających z Dowództwa Operacji Specjalnych na Pacyfiku.
Model AI połączył ze sobą ogólnodostępne informacje (open-source) oraz niejawne dane wywiadu sygnałowego (SIGINT). W wyniku błędnej korelacji danych system uznał, że na pokładzie znajdują się materiały nuklearne. Co więcej, analityk ponownie wykorzystał sztuczną inteligencję do ubrać wnioski w szaty standardowego, oficjalnego raportu wojskowego, co uwiarygodniło fałszywkę w oczach przełożonych.
- Czas incydentu: wiosna (w trakcie działań zbrojnych przeciwko Iranowi).
- Obiekt: chiński statek handlowy na Bliskim Wschodzie.
- Główna przyczyna: błędna interpretacja danych (halucynacja AI).
- Skutek: odwołanie operacji abordażu w ostatniej chwili.
Wyścig z AI a ryzyko katastrofy
Eksperci zwracają uwagę, że incydent ten idealnie wpisuje się w szerszy kontekst masowego wdrażania technologii algorytmicznych do struktur obronnych. Jeszcze w styczniu sekretarz obrony USA Pete Hegseth ogłosił ambitną strategię przyspieszenia integracji sztucznej inteligencji w armii, mającą na celu wyeliminowanie barier biurokratycznych i zdobycie przewagi technologicznej.
Opisany przypadek pokazuje jednak mroczną stronę tego wyścigu. Jak podsumował jeden z byłych amerykańskich urzędników cytowany przez media, sztuczna inteligencja potrafi jedynie sprawić, że „zdecydowanie szybciej można podążać w stronę złego pomysłu”. Ani Pentagon, ani Dowództwo Operacji Specjalnych nie odniosły się oficjalnie do rewelacji CNN, jednak sprawa na pewno wywoła burzliwą dyskusję o procedurach bezpieczeństwa i nadzorze człowieka nad autonomicznymi narzędziami analitycznymi.
Źródło: GeekWeek w INTERIA.PL – technologie, nauka, lifestyle i podróże
KOMENTARZE