O to nikt go nie podejrzewał. Ten model AI potrafi się włamać do każdego banku

Wyobraźcie sobie skok stulecia, w którym zabezpieczenia nad którymi pracował sztab speców do spraw bezpieczeństwa, sprawdzając je w nieskończoność, są obchodzone bez przygotowania, a zamki i szyfry nie są żadną przeszkodą. W którym włamywacz wykrywa najdrobniejszy błąd w konstrukcji skarbca, więc wchodzi do niego nie niepokojony, wynosi zwartość i szyfruje sejf własnym kodem. Jego kunszt jest tym bardziej imponujący, że działa w pojedynkę i nie potrzebuje wsparcia. Wszystko to w cyberprzestrzeni na globalną skalę. Czy to możliwe?

Od kilku tygodni - tak. Włamywacz nosi pseudonim Mythos. Jest modelem sztucznej inteligencji firmy Anthropic i drży przed nim cały świat. Skąd się wziął, dlaczego zamknięto go jak dżina w butelce, co się stanie, gdy się go z niej wypuści i dlaczego to ważne także dla naszych pieniędzy. I wspólnego bezpieczeństwa?

To jest napad

Mythos ma moc mitologicznych bogów. Tak wielką, że jego pojawienie się na świecie zmusiło amerykański rząd i szefów najpotężniejszych instytucji finansowych do odbycia pilnej narady. Ale po kolei. Zanim został wypuszczony z butelki, przeszedł tak zwane testy obciążeniowe. Takie testy Anthropic zleca zewnętrznym specjalistom przed publikacją każdego nowego modelu. Chodzi o sprawdzenie, czy wszyscy złoczyńcy tego świata mogliby używać nowości do szpiegostwa, kradzieży lub sabotażu. Możliwości Mythosa na etapie testów wprawiły testujących w zdumienie. Okazało się, że najnowsza sztuczna inteligencja Anthropica dosłownie przenika przez mury. Już w ciągu pierwszych kilku godzin okazało się, że Mythos opanował liczne techniki infiltracji systemów informatycznych używanych na całym świecie. Nie tylko potrafił znaleźć dziury w zabezpieczeniach, ale jak rasowy włamywacz sam sobie tworzył wytrychy. W tym do systemów opartych na Linuksie, kodzie na którym stoi większość współczesnych superkomputerów.

W ramach testów Mythos zorganizował cyfrowy odpowiednik napadu na bank: obszedł protokoły bezpieczeństwa i złamał kody cyfrowych sejfów. Zrobił coś, czego sztuczna inteligencja nie miała dotąd w swoim repertuarze. Do tej pory tylko otwierała zamki, teraz przeprowadziła cały wieloetapowy skok. Do włamania wykorzystała niezamknięte okno, po wejściu do środka wyłączyła prąd, potem unieszkodliwiła alarm i otworzyła drzwi. Na sam koniec z własnej inicjatywy zwiała z cyfrowego laboratorium i mailem powiadomiła badacza o dziurach w systemie.

Testy podobne do tych zleconych zewnętrznym badaczom, pracownicy Anthropica prowadzili w cyfrowych laboratoriach firmy. Próby zakończyli przerażającymi wnioskami. Podczas gdy poprzednik Mythosa pomagał w zabezpieczaniu systemów informatycznych przed włamaniami, teraz wykazywał się głównie talentami hakerskimi. I to na poziomie o jakim żaden człowiek nawet nie marzył. Prototypowa wersja dżina została więc zamknięta w firmowej butelce. Anthropic zaś opublikował model w ograniczonym zakresie. Z zastrzeżeniem, że ma służyć wzmacnianiu systemów informatycznych a nie ich pokonywaniu. I powołał projekt Glasswing, do którego zaprosił światowych gigantów biznesowych. Dodatkowo, w trybie pilnym, po publikacji Mythosa naradę zwołał amerykański rząd i amerykański bank centralny.

Tak dobry, że chce go rząd

Na spotkanie zostali wezwani szefowie największych banków i instytucji finansowych w USA. Mieli usłyszeć ostrzeżenie: publikacja nowego modelu sztucznej inteligencji to początek nowej ery w cyberbezpieczeństwie. Bo Mythos na polecenie użytkownika potrafi włamać się wszędzie. By takie włamanie zlecić nie trzeba mieć fachowej wiedzy, wystarczą przeciętne umiejętności posługiwania się sztuczną inteligencją. Dla systemu finansowego to zagrożenie krytyczne i perspektywa katastrofy o niewyobrażalnych rozmiarach.

Kilka dni po tym spotkaniu nastąpiło inne. Amerykański rząd zaprosił na rozmowę założyciela firmy Anthropic, tej samej, którą wcześniej uznał za zagrożenie narodowe. Bo Anthropic odmówił włączenia w swoim modelu AI możliwości podejmowania autonomicznych decyzji o zabijaniu w ramach amerykańskiej operacji wojskowej w Iranie. Teraz rząd USA chce dostać Mythosa, by korzystając z jego mitycznej mocy bronić Amerykanów, na przykład przed hakerami z Chin i możliwym atakiem na przykład na sieć energetyczną.

Na koniec projekt Glasswing. Nazwany tak od gatunku motyla z transparentnymi skrzydłami. Budowniczy Mythosa zaprosił do projektu: Amazon, Apple, Google, Microsoft, Nvidia, Palo Alto Networks, CrowdStrike, Cisco, JPMorganChase i Fundacja Linux. Wszyscy dostali nowy model do sprawdzenia, w tym do poszukiwania dziur w wewnętrznych systemach pod ścisłą kontrolą. Mythos potrafi bowiem znaleźć błędy, które przetrwały dekady fachowych analiz i miliony automatycznych testów bezpieczeństwa. Dzięki jego talentowi dziury zostaną załatane zanim dżin zostanie wypuszczony z butelki i zacznie spełniać nie zawsze dobre życzenia.

źródło: TOK FM