Unia Europejska chce regulować sztuczną inteligencję. Czy nowe przepisy ochronią prawa obywateli?

Unia Europejska twierdzi, że rozbroiła technologiczną bombę zegarową. Po trzydniowym maratonie negocjacyjnym przedstawiciele Parlamentu Europejskiego, Komisji i Rady Europejskiej (tj. poszczególnych krajów) sfinalizowali ramy przepisów, które mają regulować wykorzystywanie we Wspólnocie sztucznej inteligencji (AI).

Wprawdzie to nie pierwsza tego typu regulacja (Chiny swoje przepisy o AI ogłosiły w lipcu), ale zdaniem Brukseli nigdzie na świecie kwestii bezpieczeństwa inteligentnych algorytmów nie potraktowano tak kompleksowo. „W ustawie określono zasady dotyczące potężnych modeli sztucznej inteligencji, dbając o to, by nie stwarzały systemowego ryzyka dla Unii i zapewniały obywatelom i demokracjom silne zabezpieczenia przed nadużyciami” – podkreślał rumuński europoseł Dragoș Tudorache, jeden ze sprawozdawców.

Zakazane będzie więc stosowanie w Unii systemów kategoryzujących ludzi na podstawie przekonań, orientacji seksualnej czy rasy oraz systemów rozpoznających emocje. Nie będzie wolno tworzyć systemów „punktacji społecznej” (takie są w Chinach) czy „manipulujących ludzkimi zachowaniami w celu obejścia ich wolnej woli”. Z kolei systemy „wysokiego ryzyka”, np. wykorzystywane w sektorze bankowym czy ochronie zdrowia, będą musiały przejść audyt, czy wpływają na prawa podstawowe obywateli, demokrację lub zdrowie. Unia powoła też radę ds. AI, która ma koordynować działania Wspólnoty.

Założenia prawne nie budzą jednak entuzjazmu organizacji praw człowieka. Wskazują one, że luki pozwalają tworzyć systemy cyfrowej inwigilacji. Dla zwalczania terroryzmu i najpoważniejszych przestępstw państwa będą mogły bowiem stosować systemy, które w czasie rzeczywistym rozpoznają ludzi. W „pilnych przypadkach” organy ścigania będą mogły stosować narzędzie AI wysokiego ryzyka nawet, jeśli nie przeszło ono procedury oceny zgodności z unijnym prawem. W żaden sposób nie będą ograniczane systemy AI stosowane przez wojsko. „Trudno ekscytować się ustawą, która legalizuje publiczne rozpoznawanie twarzy na żywo” – ocenia Ella Jakubowska z organizacji European Digital Rights.