Sztuczna inteligencja w rękach państwowych urzędów: co dzieje się z Twoimi danymi w publicznych zasobach?

Automatyzacja państw i korzystanie z coraz większych baz danych, także na potrzeby administracji publicznej, staje się codziennością. Także w Polsce rząd tworzy wspólny system administrowania takimi bazami - Zintegrowaną Platformę Analityczną. Kto czuwa nad tym, jak nowoczesna administracja korzysta z danych o ludziach? Jak wygląda praca przy projektowaniu algorytmów sztucznej inteligencji? Kto te systemy nadzoruje? To pytania do naszej ekspertki.

Pewnego dnia  Chermaine odebrała list z urzędu skarbowego, w którym żądano od niej zwrotu zasiłków, wypłacanych jej przez ostatnie cztery lata na opiekę nad dziećmi. Kwota: 100 tysięcy euro.

Dopiero 7 lat później wyszło na jaw, że holenderski fiskus określał ryzyko nadużyć w systemie przy pomocy algorytmu uczenia maszynowego. Oskarżone o wyłudzenie zasiłku rodziny musiały zwracać dziesiątki tysięcy euro, ludzie ci nie dostawali nawet szansy na udowodnienie swojej niewinności.

To był pierwszy głośny przypadek omylnego wykorzystywania sztucznej inteligencji w Europie.

Na pytania o możliwe błędy i nadużycia, ale też po prostu - jak to działa, jak działać powinno, jak powinniśmy regulować używanie AI w administracji odpowiada mi Natalia Domagała - ekspertka, która jeszcze do niedawna kierowała zespołem zajmującym się polityką danych i sztucznej inteligencji w Centralnym Urzędzie do spraw Cyfryzacji i Danych, w brytyjskiej administracji. Jej zespół stworzył pierwszy oficjalny standard przejrzystości algorytmów. Teraz Natalia pracuje w Ministerstwie Spraw Zagranicznych w Wielkiej Brytanii.

POSŁUCHAJ:

DOSTĘP PREMIUM