Coraz więcej państw i gmin dostrzega potencjał sztucznej inteligencji: systemy AI mogą nie tylko zwiększyć wydajność procesów administracyjnych, ale także umożliwić zapewnienie obywatelom lepszego zakresu usług. Jednym z pionierów wykorzystania AI w administracji miejskiej jest miasto Wormacja. Od ponad sześciu miesięcy korzysta ono z asystenta AI „Justus“ w wydziale budownictwa i w obszarze rozwoju miejskiego. Miasto Heidelberg wykorzystuje narzędzia AI do szybkiego i łatwego rejestrowania protokołów z (specjalistycznych) posiedzeń komisji. Narzędzie AI rozpoznaje wypowiadane słowa, strukturyzuje treść i podsumowuje najważniejsze wyniki. W Augsburgu chatbot „CiSa“ pomaga użytkownikom uzyskać dostęp do przydatnych informacji miejskich w ciągu kilku sekund, bez konieczności samodzielnego przeszukiwania strony internetowej administracji miasta.  

Powyższe rozwiązania AI to tylko kilka z wielu przykładów. Obecnie narzędzia AI są wykorzystywane w niemal każdym obszarze administracji - od usług obywatelskich po rozwój miast, urząd budowlany czy urząd ds. klimatu i środowiska. Zakres jest ogromny. Aplikacje AI mogą być wykorzystywane wewnętrznie i zewnętrznie. Administracje same decydują, czy chcą używać narzędzi AI tylko jako wirtualnych asystentów dla pracowników, czy też powinny one również ułatwiać komunikację z obywatelami i przejmować zautomatyzowane zadania administracyjne. Niezależnie od tego, do jakich zadań mają być wykorzystywane aplikacje, zawsze należy przestrzegać szeregu wymogów prawnych.

RODO i regulacje dotyczące sztucznej inteligencji idą „ręka w rękę“

Aby zapewnić bezpieczeństwo korzystania z systemów sztucznej inteligencji i zgodność z prawami podstawowymi, w dniu 1 sierpnia 2024 r. w Unii Europejskiej weszło w życie rozporządzenie w sprawie sztucznej inteligencji (rozporządzenie w sprawie sztucznej inteligencji). Oprócz wymogów rozporządzenia w sprawie sztucznej inteligencji należy również przestrzegać przepisów o ochronie danych zawartych w RODO, federalnej ustawie o ochronie danych i krajowych przepisach o ochronie danych.

RODO i Rozporządzenie AI nie są zatem alternatywnymi zestawami przepisów, ale wzajemnie się uzupełniają. Podczas gdy rozporządzenie AI zawiera specjalne przepisy prawne dotyczące korzystania z narzędzi AI, RODO reguluje przepisy prawne dotyczące postępowania z danymi osobowymi. Jeśli korzystanie z narzędzi AI obejmuje również dane osobowe osób, których dane dotyczą, należy przestrzegać obu zestawów przepisów. Wiele miast i gmin niechętnie korzysta z narzędzi AI, ponieważ obawia się naruszenia ochrony danych.

W związku z tym miasto Augsburg udostępniło swojemu chatbotowi „CiSA“ „ostrzeżenie“, które brzmi: „Nie podawaj mi żadnych danych osobowych - chciałbym poznać was wszystkich osobiście. Ale niestety nie jest to możliwe w mojej pracy. Więc proszę, nie wysyłaj mi żadnych swoich danych osobowych“.

Zgodne z zasadami ochrony danych korzystanie z systemów AI

Co organy administracji publicznej muszą wziąć pod uwagę w ramach prawa ochrony danych, jeśli chcą korzystać z rozwiązań AI? W prawie ochrony danych osobowych obowiązuje zasada „zakazu z zastrzeżeniem zezwolenia“. Jeśli dane osobowe mają być importowane do systemów AI, jest to zasadniczo niedozwolone. Przetwarzanie danych osobowych za pomocą systemów AI jest dozwolone tylko wtedy, gdy istnieje ku temu podstawa prawna, taka jak zgoda osoby, której dane dotyczą. Ponadto przetwarzanie danych musi być zgodne z zasadą ograniczenia celu ochrony danych, tj. muszą istnieć jasne i uzasadnione cele (art. 5 ust. 1 lit. b) RODO). Administracja publiczna musi udokumentować te cele, aby móc przedstawić odpowiednie dowody w późniejszym terminie.

Obowiązki w zakresie przejrzystości korzystania z systemów AI

Ponadto administracje publiczne muszą przestrzegać obowiązków w zakresie przejrzystości nałożonych zarówno przez prawo o ochronie danych, jak i rozporządzenie w sprawie sztucznej inteligencji, jeśli chcą korzystać z systemów sztucznej inteligencji. Przykładowo, użytkownicy muszą być zawsze informowani o tym, że wchodzą w interakcję z systemem AI. Ponadto decyzje generowane przez sztuczną inteligencję muszą być zgodne z wymogiem przejrzystości wynikającym z przepisów o ochronie danych. Muszą być zrozumiałe, łatwo dostępne i zrozumiałe.

Jeżeli dane osobowe są przetwarzane, gdy systemy sztucznej inteligencji są wykorzystywane w administracji publicznej, należy zapewnić wykonywanie praw osób, których dane dotyczą, zgodnie z art. 15 i nast. RODO. W związku z tym osoba, której dane dotyczą, ma nie tylko prawo do informacji, ale może również zażądać usunięcia swoich danych osobowych. Istnieją jednak specyficzne dla sztucznej inteligencji wyzwania dla miast i gmin, jeśli chodzi o wdrażanie praw osób, których dane dotyczą. Zwłaszcza w przypadku przetwarzania dużych ilości danych przez systemy AI, wdrożenie praw osób, których dane dotyczą, nie jest łatwe w praktyce. Niemniej jednak organy administracji muszą zapewnić możliwość korzystania z praw osób, których dane dotyczą.

Środki bezpieczeństwa dotyczące korzystania ze sztucznej inteligencji

Wreszcie, aplikacje AI mogą być używane tylko wtedy, gdy istnieją niezbędne środki ostrożności. Administracje muszą zapewnić odpowiedni poziom ochrony w stosunku do ryzyka. Obejmuje to na przykład regularne szkolenie pracowników w zakresie ochrony danych i sztucznej inteligencji oraz uwrażliwianie ich na ryzyko. Administracje muszą również zapewnić, że ich pracownicy posiadają wystarczający poziom wiedzy specjalistycznej w zakresie sztucznej inteligencji. Wynika to z art. 4 Rozporządzenia AI. Kompetencje w zakresie AI odnoszą się do „know-how“ w radzeniu sobie z systemami AI i są nabywane poprzez kursy szkoleniowe, warsztaty lub dalsze szkolenia.

Ze względu na wysokie ryzyko dla praw i wolności osób, których dane dotyczą, miasta i gminy, które chcą korzystać z systemów sztucznej inteligencji, muszą wcześniej przeprowadzić kompleksową ocenę ryzyka. Z jednej strony są one zobowiązane do przeprowadzenia oceny skutków dla ochrony danych zgodnie z art. 35 RODO. Z drugiej strony, jeśli chcą korzystać z takich systemów, muszą również wziąć pod uwagę dodatkowe wymogi dotyczące oceny skutków dla systemów AI wysokiego ryzyka („FRIA“), które zostały wprowadzone zgodnie z art. 27 rozporządzenia w sprawie AI.

Wnioski

Wykorzystanie systemów sztucznej inteligencji w administracji publicznej wymaga spełnienia szeregu wymogów. Podczas gdy zasady prawa ochrony danych obowiązują już teraz, szczegółowe wymogi rozporządzenia w sprawie sztucznej inteligencji wejdą w życie dopiero w sierpniu 2024 r., a większość z nich nie będzie miała zastosowania do sierpnia 2026 r. Miasta i gminy powinny jednak informować się na wczesnym etapie i podejmować odpowiednie środki ostrożności, jeśli chcą wykorzystywać systemy AI w swojej działalności administracyjnej w sposób zgodny z prawem.