W ostatni piątek negocjatorzy Parlamentu Europejskiego osiągnęli wstępne porozumienie w sprawie zapisów dotyczących sztucznej inteligencji. Celem planowanego rozporządzenia jest zapewnienie ochrony praw podstawowych, demokracji, praworządności i równowagi środowiskowej przed sztuczną inteligencją wysokiego ryzyka. Jednocześnie zachowując odpowiednią stymulację innowacji i czyniąc Europę liderem w tym obszarze.

Zakazane aplikacje

Niektóre zastosowania sztucznej inteligencji stanowią potencjalne zagrożenie dla praw obywateli i demokracji. Konsensus europejski ma zakładać zakaz użytkowania systemów kategoryzacji biometrycznej, które wykorzystują cechy wrażliwe np. przekonania polityczne, religijne, filozoficzne, orientację seksualną, rasę, czy nieukierunkowanego pobierania obrazów twarzy z internetu, czy nagrań CCTV w celu tworzenia baz danych rozpoznawania twarzy,
rozpoznawania emocji w miejscu pracy i instytucjach edukacyjnych, czy systemów sztucznej inteligencji, które manipulują ludzkim zachowaniem w celu obejścia ich wolnej woli, czy sztucznej inteligencji używanej do wykorzystywania ludzkiej słabości ze względu na wiek, niepełnosprawność, sytuację społeczną lub ekonomiczną.

Biometryczne systemy identyfikacji tylko w celu egzekwowania prawa

W negocjacjach uzgodniono zabezpieczenia i wyjątki dotyczące stosowania biometrycznych systemów identyfikacji (RBI) w publicznie dostępnych przestrzeniach. Będą one dotyczyć jedynie egzekwowania prawa, z zastrzeżeniem uprzedniej zgody sądu i ściśle określonych list przestępstw. RBI byłby wykorzystywany wyłącznie w celu ukierunkowanego poszukiwania skazanej osoby lub podejrzanej o popełnienie poważnego przestępstwa.

Użycie RBI musiałoby spełniać rygorystyczne warunki, a jego wykorzystanie byłoby ograniczone w czasie i miejscu, do celów takich jak:

• poszukiwania ofiar handlu ludźmi,
• zagrożeń terrorystycznych,
• lokalizacji lub identyfikacji osoby podejrzanej o popełnienie jednego
  z poważnych przestępstw wymienionych w rozporządzeniu.

Systemy wysokiego ryzyka

Dla sztucznej inteligencji sklasyfikowanej jako systemy wysokiego ryzyka z uwagi na ich potencjalne szkody dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji i praworządności, uzgodniono obowiązkową ocenę ich wpływu na prawa podstawowe. Obywatele będą mieli prawo do składania skarg dotyczących systemów sztucznej inteligencji i otrzymywania wyjaśnień dotyczących decyzji opartych na systemach sztucznej inteligencji wysokiego ryzyka, które mają wpływ na ich prawa.

Ogólne systemy sztucznej inteligencji

Uzgodniono, że systemy sztucznej inteligencji ogólnego przeznaczenia (GPAI) i modele GPAI, na których są oparte, będą musiały spełniać wymogi przejrzystości. Obejmą one sporządzanie dokumentacji technicznej, czy przestrzegania praw autorskich UE.

Wsparcie innowacji i MŚP

Posłom zależało również na zagwarantowaniu rozwiązań wspierających przedsiębiorstwa, a zwłaszcza małe i średnie firmy. Uzyskany konsensus uwzględnia możliwość opracowywania rozwiązań AI przez MŚP bez nadmiernej presji ze strony gigantów branżowych kontrolujących łańcuch wartości. Zaproponowano tzw. piaskownice regulacyjne i testy w warunkach rzeczywistych, ustanowione przez organy krajowe w celu opracowania i przeszkolenia innowacyjnej sztucznej inteligencji przed wprowadzeniem jej na rynek.

Kompromis i co dalej?

W propozycji zapisów uwzględniono również skutki nieprzestrzegania zasad, takie jak nakładanie kar w wysokościach zależnych od formy naruszenia i wielkości firmy. Uzgodniony tekst oczekuje obecnie na formalne przyjęcie przez Parlament, aby stać się prawem UE.

Źródło: Informacja prasowa Parlamentu Europejskiego