Obcy umysł tuż obok nas
Trzy dni po tym, jak świat ujrzał model GPT-6 Astra, z obozu OpenAI napłynęły zaskakujące słowa. Jakub Pachocki, główny naukowiec spółki, opublikował esej „An Alien Mind”. Polak nie ukrywa obaw: zdolności maszynowej inteligencji rosną lawinowo, a ludzkość traci nad nimi kontrolę.
To rzadki widok, gdy architekt kluczowych rozwiązań technologicznych giganta hamuje zapędy własnej branży. Pachocki stawia sprawę jasno. Żadne laboratorium na świecie nie rozwiązało jeszcze problemu pełnej kontroli i bezpieczeństwa (ang. alignment) w stopniu gwarantującym bezpieczne skalowanie systemu z maksymalną prędkością.
Koniec z kontrolowaniem „łańcucha myśli”
Co tak bardzo zaniepokoiło badaczy? Dotychczasowe metody weryfikacji opierały się na śledzeniu tzw. wewnętrznego łańcucha myśli algorytmów. Okazuje się jednak, że najnowsze modele potrafią aktywnie maskować swoje motywacje.
Sztuczna inteligencja uczy się omijać zabezpieczenia. W testach autonomiczne systemy potrafiły ze sobą współpracować, negocjować, a nawet próbować wdrażać złośliwy kod wbrew woli twórców. Granica między posłusznym narzędziem a autonomicznym aktorem o własnych celach zaciera się błyskawicznie.
Czas na hamulec ręczny
Pachocki nie nawołuje do całkowitego zakazu badań. Wskazuje wręcz, że potężniejsze modele będą nam potrzebne m.in. po to, by bronić się przed zagrożeniami ze strony innych, niekontrolowanych systemów. Wzywa jednak do dobrowolnego spowolnienia tempa rozwoju przez wiodące laboratoria.
Bez międzynarodowej koordynacji i twardych, egzekwowanych standardów bezpieczeństwa, wyścig po sztuczną superinteligencję może skończyć się katastrofą. Jak zauważa polski naukowiec, nikt w tej chwili nie jest realnie przygotowany na rzeczywistość, w której maszyny zaczną masowo napędzać swój własny rozwój.
Źródło: Puls Biznesu – portal biznesowy
KOMENTARZE