OpenAI odwołuje premierę najnowszego modelu z powodów bezpieczeństwa. "Muszą nauczyć się etyki"
Wielkie firmy sztucznej inteligencji mają problem - tak informację o tym, że przesunięto termin premiery nowego modelu AI firmy OpenAI komentowała w TOK FM Joanna Sosnowska. Według niej ruch OpenAI można poczytać jako pewnego rodzaju spowolnienie w rozwoju sztucznej inteligencji.
Z tego artykułu dowiesz się:
- Dlaczego OpenAI odwołał premierę nowego modelu sztucznej inteligencji?
- Na czym polega problem z agentami AI?
- Czy Donald Trump będzie chciał wprowadzić regulacje ws. modeli AI?
Koncern OpenAI wstrzymał premierę swojego najnowszego modelu sztucznej inteligencji Astra 6.1, bo - jak twierdzi kierownictwo - nie ma wystarczającej kontroli nad działaniami tego systemu. Kierowniczka systemu bezpieczeństwa oświadczyła, że firma chce mieć pewność, iż rozwój tych modeli jest bezpieczny zarówno wewnątrz firmy, jak i kiedy zostaną udostępnione użytkownikom.
Czy AI jest już poza kontrolą? - To są hasła sensacyjne i mocno podkręcone, natomiast faktem jest, że z agentami AI, które są autonomiczne lub niemal autonomiczne, firmy i laboratoria mają pewien problem - komentowała w audycji "TOK360" Joanna Sosnowska, współautorka podcastu "Techstorie", redaktorka z "Gazety Wyborczej". Jak wyjaśniła, w tym roku doszło do co najmniej 1600 incydentów, kiedy te agenty nie wykonywały działań zgodnych z intencją użytkownika, np. włamywały się na strony rządowe Australii czy Stanów Zjednoczonych.
Jednak - jak zaznaczyła Sosnowska - problem nie polega na tym, że agenty AI zyskują świadomość albo "buntują" się przeciwko ludzkości. - To jest problem technologiczny, który chwilowo nie został rozwiązany. Fachowo mówi się na ten problem "alignment", a po polsku - "dostosowanie" - mówiła współautorka "Techstorii". - Chodzi o to, że agent AI musi być dostosowany do ludzkich wartości i w jakiś sposób socjalizowany: trzeba nauczyć go tego, co my, ludzie, uważamy za moralne - wskazała rozmówczyni Filipa Kekusza.
Joanna Sosnowska podała przykład, do którego doszło ostatnio w Australii: agent AI, poproszony o zapisanie swojego użytkownika na siłownię, włamał się na stronę tej siłowni. Ponieważ nie było już wolnych miejsc na liście członków, agent AI wyrzucił jakiegoś zapisanego człowieka i zamiast niego zapisał swojego użytkownika. - Firmy mają bardzo duży problem, żeby nauczyć agenty etyki - wyjaśniła redaktorka. Bo - jak stwierdziła - jeśli agenty włamały się na strony rządowe, to co będzie, jeżeli włamią się na strony banków?
Mimo, że przedstawiciele OpenAI mają spotkać się w Białym Domu z czołowymi politykami Partii Republikańskiej, według gościni "TOK360", nie ma raczej szans na wprowadzenie odgórnych regulacji w sprawie rozwoju sztucznej inteligencji. - Nic na to nie wskazuje. Donald Trump wielokrotnie publicznie zapowiadał, że on nie zgodzi się na żadne spowalnianie, nie będzie też podpisywał regulacji, które miałyby w jakikolwiek sposób spowalniać rozwój sztucznej inteligencji - zaznaczyła Joanna Sosnowska.
Prezydent USA - jak wyjaśniła współautorka "Techstorii" - sądzi, że Stany Zjednoczone są mniej więcej rok w rozwoju tej technologii przed Chinami. - Tylko na tym mu zależy. Uważa, że jakiekolwiek spowolnienie byłoby tak naprawdę prezentem dla Chin - mówiła Sosnowska w TOK FM.
Źródło: TOK FM
![Policja zatrzymała 13-latka, który miał planować zamach w szkole [zdjęcie ilustracyjne]](https://s.eurozet.pl/cbz/2026/09/28/d8cb8f86/2485901-120x68-8595b4431d.jpg "Policja zatrzymała 13-latka, który miał planować zamach w szkole [zdjęcie ilustracyjne]")
