Ustawa UE o sztucznej inteligencji: co musimy wiedzieć

Kategoryzacja ryzyka związanego ze sztuczną inteligencją

Ustawa o sztucznej inteligencji definiuje trzy kategorie ryzyka związanego z wykorzystaniem sztucznej inteligencji: wysokie, ograniczone i minimalne. Odnoszą się one do wpływu, jaki rozwiązania sztucznej inteligencji mogą mieć na życie ludzi. W każdym przypadku określono wymagania dotyczące jakości danych, przejrzystości operacyjnej, nadzoru i odpowiedzialności dostawców rozwiązań i użytkowników.

Kategoria wysokiego ryzyka. Dotyczy rozwiązań, które mają znaczący wpływ na ludzkie życie lub podstawowe prawa człowieka. Należą do nich na przykład systemy biometryczne, transport, opieka zdrowotna, edukacja i rekrutacja. Przedsiębiorcy będą musieli spełnić wysokie wymagania dotyczące zgodności, przejrzystości, cyberbezpieczeństwa, redukcji ryzyka i nadzoru nad ludźmi. Konieczne będzie również wprowadzenie standardów dla zbiorów danych wykorzystywanych do szkolenia AI.

Kategoria ograniczonego ryzyka- są to rozwiązania, które mają mniejszy wpływ na ludzi, ale wymagają przejrzystości działania. Są to na przykład chatboty, asystenci głosowi i systemy dostarczające rekomendacje. Wymagania dotyczące przejrzystości dla przedsiębiorców są niższe. W przypadku np. deepfake'ów i innych generatorów treści istnieje potrzeba oznaczania treści tak, aby użytkownicy wiedzieli, że zostały one stworzone przy użyciu sztucznej inteligencji.

Kategoria minimalnego ryzyka, która nie podlega szczególnym wymogom i obejmuje m.in. gry komputerowe, filtry do grafik i zdjęć oraz zabawki interaktywne.

Kiedy sztuczna inteligencja nie może być wykorzystywana

Nowe regulacje prawne wskazują również obszary, w których wykorzystanie AI będzie niedopuszczalne. Najogólniej rzecz ujmując, dotyczą one sytuacji, w których dochodzi do niesprawiedliwego lub niekorzystnego traktowania osób lub grup społecznych. Dotyczy to m.in:

• Predykcyjne aplikacje policyjne

Są to systemy, które pozwalają policji i innym służbom przewidywać zachowania przestępcze na podstawie algorytmów. Zostały one zakazane ze względu na liczne przypadki błędnych wskazań, prowadzących do aresztowania niewinnych osób, a jednocześnie niską skuteczność w identyfikacji sprawców rzeczywistych przestępstw.

• Narzędzia biometryczne do analizy emocji w czasie rzeczywistym

Wykorzystanie lub rozwój narzędzi wykrywających ludzkie emocje nie jest dozwolone w obszarach takich jak miejsca pracy, szkoły czy aplikacje policyjne. Wynika to z powszechnie krytykowanych aspektów takich systemów, np. rzutowania uprzedzeń kulturowych na systemy. Ustawa może jednak zostać zmodyfikowana w tym zakresie, ponieważ niektóre systemy tego typu mogą mieć przydatne i potencjalnie nieszkodliwe zastosowania.

• Rozwiązania w zakresie punktacji społecznej

Social scoring polega na przyznawaniu obywatelom punktów na podstawie ich zachowania. Rozwiązanie to jest stosowane w Chinach, a ustawa o sztucznej inteligencji zdecydowanie się mu sprzeciwia, stąd przepis zakazujący jego stosowania.

• Systemy identyfikacji biometrycznej w czasie rzeczywistym

W tym przypadku przewidziano pewne wyjątki w wykrywaniu poważnych przestępstw, takich jak porwania dzieci. Poważne przestępstwa to takie, które w danym państwie członkowskim zagrożone są karą powyżej 3 lat pozbawienia wolności.

Konsekwencje ustawy o sztucznej inteligencji

Należy zauważyć, że ustawa o AI nie jest jeszcze obowiązującym prawem w UE. Ustawa musi zostać zatwierdzona przez wszystkie państwa członkowskie, co może być trudne, biorąc pod uwagę m.in. sprzeciw Francji, Niemiec i Włoch, które twierdzą, że ustawa o sztucznej inteligencji może hamować innowacje.

Jeśli jednak ustawa wejdzie w życie, istnieje szansa, że stanie się wzorem dla innych rynków, podobnie jak standard RODO. Pytanie tylko, jak na AI Act zareagują Stany Zjednoczone, gdzie siedzibę mają największe firmy zajmujące się tymi technologiami. Powinniśmy raczej spodziewać się ich sprzeciwu wobec ewentualnych prób wprowadzenia podobnych przepisów i silnego lobbingu przeciwko nim.

Dla firm głęboko zaangażowanych w tworzenie i wdrażanie nowych technologii w projektach IT, przyjęcie sztucznej inteligencji jest nieodwracalnym trendem. Perspektywa ta przeniknęła do przedsiębiorstw w różnych skalach, branżach i lokalizacjach geograficznych. Chociaż ustanowienie ram prawnych dla tego potężnego narzędzia ma kluczowe znaczenie, pojawiły się uzasadnione obawy dotyczące potencjalnego utrudnienia innowacji w związku z ustawą o sztucznej inteligencji. Niezależnie od tego, kiedy ustawa o sztucznej inteligencji oficjalnie wejdzie w życie, firmy z siedzibą w Europie powinny proaktywnie uwzględniać nakreślone wytyczne w swojej działalności. Ponieważ nasza firma działa zarówno w Europie, jak i w Stanach Zjednoczonych, stanowi to intrygującą okazję do porównania wpływu regulacji na możliwości rozwoju projektów IT - mówiMichał Jaremek, członek zarząduRITS Professional Services.

Jednocześnie należy zauważyć, że AI Act jest krokiem w dobrym kierunku, gdyż brak jakichkolwiek regulacji prawnych dotyczących sztucznej inteligencji jest sytuacją niebezpieczną. Zachęca do nadużyć i stanowi poważne zagrożenie dla obywateli. Ważne jest jednak, aby nie zabijać innowacji poprzez faktyczne tworzenie nowych przepisów.

Jeśli jesteś ciekawy, jak wspieramy naszych partnerów biznesowych w ich projektach IT, koniecznie sprawdź naszą sekcję:Studia przypadków | RITS Professional Services.