Emocje w chmurze, zaufanie bez granic. AI to nowy najlepszy przyjaciel człowieka?
- W pewnym momencie przestaje już chodzić tylko o to, że możemy się wygadać, ale o to, że model odpowiada nam tak, żebyśmy byli jak najbardziej zadowoleni - tak o sztucznej inteligencji mówiła w TOK FM Aleksandra Wójtowicz, analityczka ds. nowych technologii i cyfryzacji w Polskim Instytucie Spraw Międzynarodowych.
- Rośnie zaangażowanie emocjonalne Polaków w relacje ze sztuczną inteligencją, wynika z raportu Future Mind;
- Jak zauważyła w TOK FM Aleksandra Wójtowicz z Polskiego Instytutu Spraw Międzynarodowych w sytuacji kiedy firma technologiczna zmieniała algorytm, internauci "przeżywają to tak, jak gdyby była to utrata prawdziwej relacji";
- Jakie zagrożenie niesie jeszcze ze sobą sztuczna inteligencja? Jak się przed nim bronić?
Polacy coraz częściej korzystają ze sztucznej inteligencji - zarówno do celów zawodowych, jak i prywatnych. Już tylko 19 proc. deklaruje, że nigdy nie miało do czynienia z AI w swoim miejscu pracy, wynika z raportu Future Mind. Szczegółowe dane pokazały też, że już 40 proc. respondentów korzysta z generatywnej AI w życiu prywatnym regularnie, czyli codziennie lub co najmniej raz w tygodniu. Rok wcześniej było to 24 proc. Przy czym znaczna część społeczeństwa traktuje algorytmy jak powierników osobistych problemów lub cyfrowych przyjaciół.
- Ten trend widoczny jest tak naprawdę wszędzie tam, gdzie używany jest AI, czyli modele generatywnej sztucznej interwencji. Widać, że ludzie zaczynają z nimi rozmawiać, mówić im o swoich problemach, o tym jak się czują. Dochodzi nawet do sytuacji skrajnej, bo w Stanach Zjednoczonych rozpoczyna się proces, w którym rodzice dziecka, które popełniło samobójstwo (...) zdecydowali się pozwać OpenAI. Uważają, że to narzędzie w jakimś sensie do tego doprowadziło - zwróciła uwagę w TOK FM Aleksandra Wójtowicz, analityczka ds. nowych technologii i cyfryzacji w Polskim Instytucie Spraw Międzynarodowych.
Wskazała przy tym, że nierzadko kiedy firma technologiczna tylko zmieniała algorytm, internauci "traktowali to tak, jak gdyby to była utrata prawdziwej relacji". - Ludzie przeżywali wręcz osobiste tragedie. Mówili: "Straciłem partnera", "Mój czat ze mną zerwał"; w sensie, gdzie jest mój przyjaciel - dodała w rozmowie z Przemysławem Iwańczykiem.
Sposób na podryw
Gościni "Przedpołudnia TOK FM" przyznała przy tym, że tu i teraz jest to już realny problem, a będzie on coraz większy. I tak np., przyznała, kiedy patrzy się na niektóre mniejsze i nie tak znane modele jak np. ChatGPT, to widać, że powstają one także po, by tworzyć z nimi relacje. - Badania i eksperymenty już pokazują, że modele te wręcz specjalnie można np. podrywać, by jeszcze bardziej zachęcić nas do rozmowy z nim - dopowiedziała Aleksandra Wójtowicz.
Tłumaczyły przy tym, że za popularnością AI stoi kilka kwestii. Jedną z nich jest fakt, że "modele skonstruowane są w taki sposób, by rozmowa z nimi była możliwie jak najbardziej satysfakcjonująca". - W pewnym momencie przestaje już chodzić tylko o to, że możemy się wygadać, ale o to, że model odpowiada nam tak, żebyśmy byli jak najbardziej zadowoleni. Może być więc nawet tak, że ktoś tak bardzo się wkręci, że łatwiej będzie mu rozmawiać z modelami niż z osobą. Także dlatego, że kiedy rozmawiamy z ludźmi nie mamy nad tym kontroli, a i ludzie mają swoje wady. Tymczasem AI stworzony jest tak, żeby takich sytuacji unikać. Czytaj: żeby mówić nam jak najwięcej tych rzeczy, które będą nam odpowiadać - wskazała Aleksandra Wójtowicz.
Zaawansowany phishing
- A jakie jeszcze zagrożenia wynikają z tego, że uwierzyliśmy w algorytmy i z tego w jaki sposób emocjonalnie angażujemy się relacje z nimi? - chciał też wiedzieć prowadzący.
- Choćby takie, że cokolwiek tam wpisujemy, jeśli nie zaznaczymy inaczej, bardzo często wykorzystywane jest do dalszego treningu sztucznej inteligencji - odpowiedziała analityczka PISM.
Tyle, że - jak od razu zastrzegła - zagrożenie, że wszystko to jest w wielkim zbiorze danych sztucznej inteligencji, z którego ta korzysta, by trenować sama sobie, lepiej odpowiadać nam i innym, ale też trenować przyszłe modele generalnej sztucznej inteligencji to jedno. - Dwa to zagrożenie ze strony cyberprzestępców, którzy wiedzą, ile ludzie wpisują w AI. Dlatego wyobrażam sobie, że kiedy ktoś chce np. kogoś zaszantażować czy choćby ukraść jego dane, by wykraść potem jego pieniądze, czyli zrobić zaawansowanych phishing, to kradzież dostępu do konta będzie w tym przypadku klasyczną rzeczą - wskazała analityczka dla przykładu.
Stąd na koniec radziła, by zawsze myśleć o tym, co wpisujemy w silniki generatywnej sztuczki agencji. - Może się wydawać, że wpisujemy to tylko dla siebie, ale prawda jest inna - podsumowała.
Źródło: TOK FM
