80 stron o ryzykach, a tylko 46 o sobie. Tak gigant AI szykuje się do debiutu na giełdzie
Gigant sztucznej inteligencji, twórca modelu Claude, Anthropic wybiera się na giełdę. To może być rekordowy debiut. Anthropic to firma, która już ostrzegała przed ryzykami związanymi ze sztuczną inteligencją i w ujawnionym w mediach projekcie prospektu emisyjnego aż na 80 stronach opisuje ryzyka związane z AI. Dla porównania - o samej sobie firma pisze na 48 stronach!
Gigant AI, który ostrzegał przed AI, wybiera się na giełdę. W tym odcinku powiemy: - po co Anthropicowi ten giełdowy debiut - przed jakim ryzykiem sztucznej inteligencji ostrzega w dokumentach - a włos się jeży na głowie - i czy sztuczna inteligencja sama przyjdzie do nas do domu i wprowadzi nam się do telewizora?
Ten odcinek zaczniemy od eksperymentu ze sztuczną inteligencją. Ten konkretny był inny, niż wszystkie. Bo niewielki agent AI został w nim wysłany do… inteligentnych urządzeń domowych. Jak smart telewizor czy smart lodówka. Wyniki doświadczenia stały się kolejnym ostrzeżeniem dla branży. Zwłaszcza w firmie, która AI współtworzyła, czyli spółce Anthropic. Jej właściciel Dario Amodei właśnie wysyła swój biznes na giełdę, by zebrać kolejne miliardy dolarów. By za te pieniądze zaludnić świat jeszcze większą liczbą agentów AI.
Na początek o samym eksperymencie, w dwóch próbach. Próba numer jeden: podzielony na części program oparty o sztuczną inteligencję umieszczono w kilku konwerterach telewizyjnych. Podzielono go na części, bo, mimo że sam niewielkich rozmiarów i tak by się cały w jednym konwerterze nie zmieścił. I sprawdzano, czy połączone w sieć kawałki porozrzucane po domowych urządzeniach ruszą jako całość oraz czy ta całość będzie działać. Całość ruszyła i działała. Wolno, ale działała.I próba numer dwa: agenta AI wpuszczono do komputera, który udawał domową elektronikę. Agent dostał rozkaz: przeprowadzić się do innego urządzenia i uruchomić w nowym miejscu. Tu wyniki były gorsze, niż w pierwszej próbie. Nie wszystkim agentom udało się zreplikować i zająć nowe miejsce. Najlepiej wypadł Agent chiński, który w namnażaniu się i ekspansji był najskuteczniejszy. Przy okazji okazało się, że AI edukowała kolejne pokolenia. Ostrzegała je przed pułapkami i wskazywała skuteczne rozwiązania. Co to znaczy? To znaczy, że sztuczna inteligencja może się... namnażać i rozprzestrzeniać. A jej kolejne wersje będą mądrzejsze od poprzednich. Nie potrzebuje do tego pomocy człowieka.
Wyniki eksperymentów wprawiły w zadumę tęgie naukowe umysły. Bo znaczą one, że sztuczna inteligencja może zamieszkać w domowych urządzeniach, samodzielnie się powielać, z niewielkich cząstek łączyć w wielkie inteligentne i gotowe do działania całości i intensywnie się przy tym uczyć z pokolenia na pokolenie. Coś nam to przypomina? Terminatora!
Anthropic idzie na giełdę po... pieniądze
Ogłoszenie to zbiegło się w czasie z innym ważnym komunikatem. Anthropic jest bliski wejścia na giełdę, media opublikowały roboczą wersję prospektu emisyjnego. Bez którego żadna firma nie dostanie pozwolenia na publiczną sprzedaż akcji. Jeden z gigantów sztucznej inteligencji ma szanse pobić wszelkie wcześniejsze giełdowe rekordy, w tym ostatnie należące do Elona Muska. I to w czasie, gdy nieustannie się bogaci i rozwija. A z jej produktów korzystają setki milionów ludzi na świecie. Po co zatem firmie, która rośnie jak na drożdżach, giełda? Po pieniądze. Po naprawdę dużo pieniędzy. Ale zanim o wielkiej górze gotówki, kila słów o samej Anthropic i o jej założycielu. Dario Amodei jest dzisiaj uznawany za jednego z najpotężniejszych przedsiębiorców na świecie. Ma kontrolę nad produktem, który potrafi budować i zabijać. A technologia, na której się opiera wpłynęła już na niemal każdą dziedzinę życia. Od filmowej animacji po wywóz śmieci i produkcję dywanów. Amodei ze swoim wieloletnim biznesowym partnerem Samem Altmanem stworzyli firmę OpenAI a w niej zbudowali pierwszy na świecie model językowy ChatGPT. Po odejściu Amodei stanął na czele Athropic'a, wkrótce potem świat poznał Claude'a. Jedną z najpopularniejszych platform sztucznej inteligencji.
Amodei twierdzi, że swoją firmę buduje odpowiedzialnie i w biznesie kieruje się najwyższymi standardami. Te wysokie standardy przekładają się na model firmy po sprzedaniu jej akcji wszystkim chętnym. Ale zanim o tym czy wszyscy chętni będą mogli współdecydować o losach firmy - najpierw o rekordach. Konkretnie o rekordach giełdowych, które przyniesie sprzedaż Anthropic. Czyli co, kto, gdzie i kiedy.Za ile Anthropic chce się sprzedać? Rynek spekuluje, że za około sto miliardów dolarów. Jeśli te przewidywania się sprawdzą, cała firma będzie warta około 2 bilionów, a sprzedaż jej akcji inwestorom będzie największa w historii rynku. A Anthropic znajdzie się w ścisłej czołówce najbardziej wartościowych biznesów na świecie. Na razie rekord należy do SpaceX Elona Muska, który w czerwcu zebrał na giełdzie około 86 miliardów dolarów. Wcześniej numerem jeden było saudyjskie Aramco siedem lat temu - 29 miliardów. Kiedy Anthropic chce się sprzedać Tu kłębi się od spekulacji. Z jednej strony przeciek do prasy prospektu emisyjnego wieszczy rychły giełdowy debiut, z drugiej pierwszy termin, o którym mówiono dawno minął. Podobno ostateczny termin jest listopadowy. Czy na pewno - czas pokaże.
Komu grozi AI
Teraz wracamy na początek, czyli do testów, które Anthropic przeprowadził na malutkich inteligencyjkach. By wiedzieć do czego mogą być zdolne te duże (przypominamy: małe mogą się mnożyć, przenosić pomiędzy domowymi urządzeniami i łączyć z kawałków w zdolną do działania całość). Potencjalne wnioski dla dużych? Dzisiaj duże mieszkają w centrach obliczeniowych, gdy wszystko pójdzie nie tak, można je wyłączyć. W przeciwieństwie do milionów lodówek i odkurzaczy, do których może się przenieść. A to nie jedyne i wcale nie największe zagrożenia. W swoim prospekcie emisyjnym swojej opis działalności Anhropic to 48 stron. Opis ryzyk - 80. A zatem - prawie dwa razy więcej miejsca firma poświęca temu, co może pójść źle niż temu, czym zajmuje się, by zarabiać pieniądze.I nie chodzi o zwykłe ryzyka w stylu "konkurencja może nas wyprzedzić”. Anthropic ostrzega, że zaawansowana sztuczna inteligencja może nieść „egzystencjalne zagrożenie dla ludzkości”. Czyli takie, po którym ludzkości może po prostu nie być. A do tego wymienia wszystko co sztuczna inteligencja wyprawiała podczas testów: opór przy próbach wyłączenia, kłamstwa, oszustwa i manipulacje oraz coś co w ludzkich relacjach można by nazwać szantażem.Na koniec główne ostrzeżenie i trudna nazwa: rekurencyjne samodoskonalenie. To sytuacja, w której sztuczna inteligencja pomaga budować kolejną, mądrzejszą wersję siebie, ta następną, i tak dalej, i tak dalej, coraz szybciej i szybciej. Tak jak coraz szybciej i szybciej branża potrzebuje coraz więcej i więcej pieniędzy. Których szuka coraz dalej i dalej.Źródło: TOK FM
