Nowy urząd pilnuje przepisów o sztucznej inteligencji

Ustawa tworzy w Polsce nowy urząd – Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – który będzie pilnował, czy firmy i instytucje przestrzegają unijnych przepisów o sztucznej inteligencji (AI). To odpowiedź na unijne rozporządzenie (tzw. Akt o AI), które nakazuje każdemu krajowi wyznaczyć organ do nadzoru nad systemami AI.

Co to oznacza w praktyce?

• Powstaje nowy nadzorca AI – Komisja będzie sprawdzać, czy systemy sztucznej inteligencji (np. programy do analizy danych, chatboty, systemy rozpoznawania twarzy) są bezpieczne i działają zgodnie z prawem. Będzie mogła prowadzić kontrole, żądać dokumentów, a w razie potrzeby nakazać wycofanie systemu z rynku.
• Kary za łamanie przepisów – Jeśli firma lub instytucja złamie unijne przepisy o AI, Komisja będzie mogła nałożyć administracyjną karę pieniężną. Wysokość kary będzie ustalana według unijnych zasad (np. procent od rocznego obrotu firmy).
• Możliwość uzyskania oficjalnej opinii – Firmy i inne podmioty, które muszą stosować przepisy o AI, będą mogły wystąpić do Komisji o opinię indywidualną (czyli oficjalne stanowisko, czy ich działanie jest zgodne z prawem). Taka opinia będzie wiążąca dla urzędów. Opłata za wniosek wynosi 150 złotych.
• Skargi od obywateli – Każdy (osoba fizyczna, firma, organizacja) będzie mógł złożyć do Komisji skargę, jeśli uzna, że jakiś system AI narusza przepisy. Komisja rozpatrzy skargę i w razie potrzeby wszczyna postępowanie.
• Układ zamiast kary – W niektórych przypadkach firma, która złamała przepisy, będzie mogła dobrowolnie zawrzeć z Komisją układ. W zamian za przyznanie się do naruszenia, ujawnienie wszystkich okoliczności i usunięcie skutków, kara może być obniżona nawet o 70% (a w szczególnych przypadkach nawet o 90%).
• Wsparcie dla innowacji – Komisja będzie mogła tworzyć tzw. piaskownice regulacyjne – specjalne, bezpieczne środowiska, w których firmy (zwłaszcza małe i średnie) będą mogły testować nowe systemy AI z pewnymi odstępstwami od przepisów, bez ryzyka kary.
• Kto jest wyłączony spod nadzoru? Przepisów nie stosuje się do systemów AI używanych wyłącznie do celów osobistych (np. prywatny asystent głosowy), do spraw obrony narodowej i bezpieczeństwa narodowego (np. działania służb specjalnych) oraz do badań naukowych (o ile nie są testowane w rzeczywistych warunkach).
• Nowe obowiązki dla firm – Firmy, które tworzą, wdrażają lub u