Koniec świata najpóźniej za 10 lat? Te firmy igrają z ogniem

To będzie odcinek o końcu świata, który mają ludzkości urządzić maszyny. A powiemy w nim:

• kiedy miałoby się to wydarzyć;
• którą platformę zaatakowała zorganizowana szajka agentów sztucznej inteligencji;
• i dlaczego twórcy sztucznej inteligencji coraz głośniej wzywają do zahamowania jej rozwoju.

Ten koniec świata, od którego zaczęliśmy, miałby nadejść w bardzo nieodległej przyszłości. Konkretnie - jeszcze w tej dekadzie, a najpóźniej za 10 lat. To historia rodem z serii o terminatorze. I o buntownikach, którzy swoim trenerom uciekli z piaskownicy. I o największych rynkowych graczach, którzy na rozwoju sztucznej inteligencji zarabiają miliardy. A chcą zarabiać biliony.

Ten odcinek zaczniemy od Hugging Face. Nie słyszałeś? Nie szkodzi - niewielu słyszało, zanim firma nie trafiła na czołówki światowych mediów. Hugging Face jest cyfrową platformą dla badaczy i inżynierów, którzy budują i testują aplikacje oparte na sztucznej inteligencji. Ma ponad 17 milionów użytkowników, a swoje prace publikują tutaj giganci branży - Google, OpenAI, DeepSeek czy Alibaba. Do lata tego roku było miejscem bezpiecznym, na głucho zamkniętym przed cyfrowymi złoczyńcami. Tak się przynajmniej jego gospodarzom wydawało. Aż latem Hugging Face znalazło się na czołówkach światowych mediów. Bo zostało opanowane przez szajkę hakerów. Nie byle jakich.

Późnym popołudniem 11 lipca zespół do spraw bezpieczeństwa platformy zdał sobie sprawę, że coś jest nie tak. Rozproszony po świecie zespół do spraw bezpieczeństwa platformy odbierał setki alarmów. Odmiennych od tych, które zdarzały się w Hugging Face niemal codziennie. Bo platformę zaatakowała zorganizowana szajka agentów sztucznej inteligencji. Przez długi czas napierała cyfrowe zabezpieczenia, żeby w końcu je pokonać. Dała sobie radę z fortyfikacjami obronnymi zbudowanymi przez sztuczną inteligencję. Jednak to nie skala czy metoda okazały się w tym ataku największym zaskoczeniem. To fakt, że wirtualni włamywacze okazali się... uciekinierami z laboratorium. Modele sztucznej inteligencji zostały zamknięte przez badaczy w tak zwanej piaskownicy bez dostępu do sieci. W izolowanym i kontrolowanym środowisku miały testować zabezpieczenia przed hakerami. Zamiast tego otworzyły sobie drzwi do internetu, zebrały się wokół platformy Hugging Face, omówiły taktykę i zorganizowały atak w sile ponad tysiąca agentów. Dziury w systemach bezpieczeństwa szukały do skutku. Swoją misję zakończyły sukcesem, gdy rozgościły się tam, gdzie nikt ich nie zapraszał.

W czym zatem problem?

W tym, że całą akcję przeprowadziły bez polecenia człowieka. Choć faktycznie otrzymały zadanie testowania zabezpieczeń, to scenariusz z ucieczką i napaścią na przypadkową ofiarę napisały sobie same. I teraz o tym dlaczego przypadek Hugging Face postawił na nogi budowniczych i trenerów sztucznej inteligencji. Na początku września na czołówki światowej prasy trafiło nazwisko - Jacob Coxon. To były już pracownik firmy Anthropic, właściciela jednego z najpopularniejszych modeli sztucznej inteligencji czyli Claude'a. Wcześniej zatrudniony w firmie OpenAI, od której trzy lata temu wszystko się zaczęło. Na odchodnym Coxon zamieścił w mediach społecznościowych przerażający wpis: obie firmy igrają z ogniem, stawką jest zagłada ludzkości, i nawet sami ludzie, którzy rozwijają technologię, są przekonani, że może ona zgubić cywilizację. I to do końca dekady. Wpis o końcu świata w ciągu kilku dni obejrzało ponad 100 milionów osób. Słowa Coxona potwierdził szef zespołu, który w Anthropic zajmuje się badaniem cyfrowych łajdaków - modeli, które kłamią, oszukują, mają złe zamiary wobec ludzi i mogą im uciec, by realizować własne plany.

Redakcja poleca

Panika na giełdach. Sztuczna inteligencja lepsza od prawników?

"Najważniejsza firma technologiczna, o której nigdy nie słyszałeś". Bez niej sztuczna inteligencja zniknie

A skoro tak to zastanówmy się jaki konkretnie może nas czekać koniec, a badacze wskazują trzy drogi. Pierwsza: zbrojenia. Sztuczna inteligencja służy złym ludziom do projektowania broni biologicznej, na którą nie ma lekarstwa, albo do prowadzenia cyberataków na masową skalę. Druga: utrata kontroli. Sztuczna inteligencja oszukuje nadzorców, obchodzi zabezpieczenia i nie da się jej wyłączyć z umownego gniazdka. Trzecia: najbardziej odległa - samodoskonalenie. Sztuczna inteligencja poza kontrolą człowieka ulepsza sama siebie, w końcu wyznacza sobie własne cele, przejmuje dostęp do zasobów na przykład energii i pozbywa się przeszkody w postaci ludzkości. I tu właśnie pojawia się wspomniany już Hugging Face. I scenariusz numer dwa: bunt maszyn, który wydarzył się naprawdę. Tyle, że w mikroskali. Pod koniec lipca ponad tysiąc pracowników wszystkich głównych firm zajmujących się sztuczną inteligencją podpisało petycję wzywającą do hamowania jej rozwoju.

Jednocześnie z branży odeszło kilku czołowych badaczy pracujących nad procedurami bezpieczeństwa. Zaraz potem główny naukowiec OpenAI, Jakub Pachocki, przestrzegał: "nikt nie jest gotów na konsekwencje ciągłego, szybkiego rozwoju inteligencji maszyn". Które właśnie rozwiązały jeden z problemów milenijnych, matematycznych zagadek, którym ludzie nie umieli podołać od blisko 100 lat. Matematycy porównują to do zwycięstwa komputera Deep Blue nad Garrim Kasparowem w szachy w latach 90. - symboliczny dowód, że AI potrafi się mierzyć z najtrudniejszymi, otwartymi problemami matematyki. A nie tylko rozwiązywać rozwiązane już zadania. Na koniec przyszłość, ta najbliższa. Dwie największe firmy rozwijające AI - obie pojawiły się w tej historii - OpenAI i Anhropic idą właśnie na giełdę. Chcą zebrać biliony dolarów, by zbudować jeszcze więcej centrów obliczeniowych i kupić jeszcze więcej superszybkich, bardzo drogich procesorów. Czyli uprawiać obliczeniowy wyścig zbrojeń na planetarną skalę. A właściciel Anthropica w tym czasie wystosował globalny apel: albo hamowanie i w pełni kontrolowany rozwój AI albo w ciągu najbliższego roku zbuntowane maszyny przejmą Internet. A skutki tego przejęcia są nie do objęcia rozumem.

Źródło: TOK FM