Dla zwykłych użytkowników oznacza to większą ochronę przed manipulacją, deepfake'ami i nieuczciwymi decyzjami algorytmów. Dla firm – nowe obowiązki oraz ryzyko dotkliwych kar finansowych.
Użytkownik ma wiedzieć, kiedy rozmawia z AI
Jedną z najważniejszych zmian jest wprowadzenie obowiązku większej przejrzystości działania systemów sztucznej inteligencji. W praktyce oznacza to, że użytkownik powinien wiedzieć, kiedy kontaktuje się z chatbotem lub innym systemem AI, a nie z człowiekiem.
Nowe przepisy obejmują również materiały tworzone przez sztuczną inteligencję. Deepfake'i, czyli realistycznie wygenerowane obrazy, nagrania audio i filmy przedstawiające wydarzenia, które nigdy nie miały miejsca, będą musiały być odpowiednio oznaczane. Podobne obowiązki dotyczą części treści publikowanych przez systemy generatywne.
To odpowiedź na rosnącą liczbę przypadków wykorzystywania sztucznej inteligencji do oszustw, dezinformacji i manipulowania opinią publiczną.
Koniec społecznego scoringu
AI Act wprowadza również katalog praktyk całkowicie zakazanych na terenie Unii Europejskiej. Chodzi o zastosowania uznane za szczególnie niebezpieczne dla wolności obywatelskich.
Zakazane jest między innymi tworzenie systemów społecznego scoringu, przypominających rozwiązania rozwijane w niektórych państwach poza Europą. Niedozwolone będzie także ocenianie obywateli na podstawie ich zachowań czy przewidywanie, że konkretna osoba może popełnić przestępstwo wyłącznie na podstawie profilowania i analizy danych.
Przepisy zabraniają również masowego pobierania zdjęć z internetu i monitoringu w celu budowania ogromnych baz danych służących rozpoznawaniu twarzy. Ograniczenia objęły także wykorzystywanie systemów rozpoznawania emocji w szkołach i miejscach pracy.
Dla przeciętnego mieszkańca Unii Europejskiej oznacza to większą ochronę prywatności oraz ograniczenie ryzyka nadmiernej inwigilacji.
Algorytm nie będzie mógł decydować bez kontroli człowieka
Szczególną uwagę regulatorzy poświęcili systemom wysokiego ryzyka. To właśnie one mogą bezpośrednio wpływać na sytuację życiową obywateli.
Do tej grupy zaliczono między innymi narzędzia wykorzystywane przy rekrutacji pracowników, ocenie egzaminów, przyznawaniu kredytów, analizowaniu wniosków wizowych, przyjmowaniu pacjentów do określonych procedur medycznych czy wspieraniu decyzji administracyjnych.
Firmy wykorzystujące takie rozwiązania będą musiały zapewnić nadzór człowieka nad działaniem algorytmów. Oznacza to, że sztuczna inteligencja nie będzie mogła samodzielnie podejmować najważniejszych decyzji bez możliwości ich zweryfikowania przez człowieka.
Nowe przepisy wymagają również dokumentowania działania systemów, monitorowania błędów oraz ograniczania ryzyka dyskryminacji wynikającej z nieprawidłowo przygotowanych danych treningowych.
Kary liczone w milionach euro
Największe emocje budzi jednak system sankcji przewidziany przez AI Act.
W przypadku najpoważniejszych naruszeń, takich jak stosowanie zakazanych praktyk AI, przedsiębiorstwom może grozić kara do 35 mln euro lub do 7 proc. całkowitego światowego rocznego obrotu firmy – w zależności od tego, która kwota będzie wyższa.
Za naruszenie obowiązków dotyczących systemów wysokiego ryzyka przewidziano kary sięgające 15 mln euro lub 3 proc. globalnego obrotu przedsiębiorstwa.
Również przekazywanie nieprawdziwych informacji organom nadzoru może skutkować sankcją do 7,5 mln euro lub 1 proc. światowego obrotu firmy.
W praktyce oznacza to, że największe koncerny technologiczne mogą zostać obciążone karami liczonymi nie w milionach, lecz nawet w miliardach euro.
Nie tylko wielkie korporacje
Choć debata wokół AI Act często koncentruje się na największych firmach technologicznych, przepisy obejmą znacznie szerszą grupę podmiotów.
Nowe obowiązki będą dotyczyć również banków, ubezpieczycieli, firm rekrutacyjnych, placówek edukacyjnych, producentów urządzeń medycznych, przedsiębiorstw przemysłowych oraz części instytucji publicznych.
Wiele firm będzie musiało przeprowadzić audyty wykorzystywanych narzędzi, sprawdzić sposób przetwarzania danych i przygotować dokumentację potwierdzającą zgodność z wymogami AI Act.
Kiedy nowe przepisy zaczną obowiązywać?
Proces wdrażania AI Act został rozłożony na kilka etapów.
Od 2 lutego 2025 r. obowiązują zakazy dotyczące najbardziej niebezpiecznych zastosowań sztucznej inteligencji.
Od 2 sierpnia 2025 r. zaczęły obowiązywać przepisy dotyczące modeli AI ogólnego przeznaczenia, stanowiących podstawę popularnych chatbotów i generatorów treści.
Kluczowa data dla większości przedsiębiorców przypada na 2 sierpnia 2026 r. Wtedy zacznie obowiązywać większość przepisów dotyczących systemów wysokiego ryzyka, obowiązków przejrzystości oraz nadzoru nad sztuczną inteligencją.
Ostatni etap wdrażania przewidziano na 2 sierpnia 2027 r. Wówczas pełnym reżimem regulacyjnym zostaną objęte systemy AI stanowiące część urządzeń medycznych, maszyn przemysłowych, pojazdów i innych produktów podlegających szczególnym regulacjom unijnym.
Europa chce stworzyć globalny standard
Komisja Europejska nie ukrywa, że AI Act ma wyznaczyć światowy kierunek rozwoju sztucznej inteligencji. Podobnie jak wcześniej unijne przepisy dotyczące ochrony danych osobowych stały się punktem odniesienia dla wielu państw, tak teraz Bruksela liczy, że podobny efekt wywołają regulacje dotyczące AI.
Dla użytkowników oznacza to przede wszystkim większą kontrolę nad sposobem wykorzystywania sztucznej inteligencji i większą przejrzystość działania algorytmów. Dla przedsiębiorców nadchodzą jednak lata intensywnego dostosowywania systemów do nowych wymogów i ryzyka bardzo wysokich kar za ich naruszenie.
Q&A. AI Act – najważniejsze pytania i odpowiedzi
Czym jest AI Act?
AI Act to unijne rozporządzenie regulujące wykorzystanie sztucznej inteligencji. Jest to pierwszy na świecie kompleksowy akt prawny poświęcony wyłącznie AI. Jego celem jest zwiększenie bezpieczeństwa użytkowników, ochrona praw podstawowych oraz stworzenie jednolitych zasad dla firm rozwijających i wykorzystujących sztuczną inteligencję.
Kogo dotyczą nowe przepisy?
Regulacje obejmują dostawców systemów AI, firmy korzystające ze sztucznej inteligencji, instytucje publiczne oraz producentów zaawansowanych modeli AI. W praktyce przepisy mogą dotyczyć m.in. banków, firm rekrutacyjnych, szkół, uczelni, szpitali, producentów oprogramowania i części przedsiębiorstw przemysłowych.
Czy AI Act dotyczy zwykłych użytkowników?
Tak. Choć większość obowiązków spoczywa na firmach i instytucjach, użytkownicy zyskają nowe prawa. Będą mieli większą pewność, kiedy korzystają z systemu AI, a treści generowane przez sztuczną inteligencję mają być lepiej oznaczane.
Czy chatboty będą legalne?
Tak. AI Act nie zakazuje chatbotów ani generatywnej sztucznej inteligencji. W wielu przypadkach użytkownik będzie jednak musiał zostać poinformowany, że rozmawia z systemem AI, a nie z człowiekiem.
Czy ChatGPT podlega AI Act?
Tak. Modele ogólnego przeznaczenia (GPAI), do których należą zaawansowane modele językowe wykorzystywane przez chatboty, zostały objęte szczególnymi obowiązkami dotyczącymi przejrzystości, dokumentacji oraz ograniczania ryzyka.
Co to jest deepfake?
Deepfake to obraz, nagranie audio lub film wygenerowany albo istotnie zmodyfikowany przez sztuczną inteligencję w taki sposób, że może sprawiać wrażenie autentycznego. AI Act nakłada obowiązki związane z oznaczaniem takich materiałów.
Jakie zastosowania AI zostały zakazane?
Zakazane są m.in. społeczny scoring obywateli, manipulowanie zachowaniem ludzi przy użyciu AI, masowe tworzenie baz danych twarzy z materiałów dostępnych w internecie oraz niektóre formy rozpoznawania emocji w szkołach i miejscach pracy.
Czy sztuczna inteligencja będzie mogła samodzielnie decydować o przyjęciu do pracy?
Nie. Systemy AI wykorzystywane w procesach rekrutacyjnych zostały uznane za systemy wysokiego ryzyka. Ich działanie musi podlegać nadzorowi człowieka, a decyzje powinny być możliwe do zweryfikowania.
Jakie kary przewiduje AI Act?
Za stosowanie zakazanych praktyk grozi kara do 35 mln euro lub do 7 proc. światowego rocznego obrotu przedsiębiorstwa. W przypadku innych naruszeń sankcje mogą sięgać 15 mln euro lub 3 proc. globalnego obrotu firmy.
Kiedy AI Act zacznie obowiązywać w pełnym zakresie?
Proces wdrażania jest etapowy. Część przepisów obowiązuje już od lutego 2025 r., większość regulacji zacznie być stosowana od 2 sierpnia 2026 r., natomiast pełne wdrożenie AI Act nastąpi 2 sierpnia 2027 r.
Czy AI Act dotyczy wyłącznie firm technologicznych?
Nie. Regulacje obejmują wszystkie podmioty wykorzystujące sztuczną inteligencję w obszarach uznanych za istotne z punktu widzenia bezpieczeństwa, praw obywatelskich i funkcjonowania państwa. Dotyczy to również sektora finansowego, ochrony zdrowia, edukacji, administracji publicznej czy przemysłu.
Czy AI Act zakazuje korzystania ze sztucznej inteligencji?
Nie. Celem regulacji nie jest ograniczenie rozwoju technologii, lecz stworzenie zasad, które mają zapewnić jej bezpieczne i przejrzyste wykorzystywanie na terenie Unii Europejskiej.
